OpenBMB 於 2026 年 9 月 7 日公開 MiniCPM5‑2B 的模型權重與配套資料,開發者現在可以下載到自己的設備執行。這次是可下載的開源發布,納入最近 72 小時的新聞擴展。想做本地助理、程式工具或小型 AI Agent 的人,多了一個能自行部署與評估的選擇。

這次開放的是什麼?

模型名稱雖然寫 2B,官方列出的總參數約為 25.2 億,原生上下文上限是 131,072 tokens。它是文字語言模型,不是看照片、生成影片的多模態工具。權重採 Apache 2.0 授權;官方另提供 BF16、GGUF、MLX 與 GPTQ 等版本,讓不同執行環境選用合適格式,而不是要求所有人下載同一份大型檔案。

這次也不只有最終模型:官方列出 Base、Midtrain、SFT 等中間檢查點,並公開相關預訓練、程式、數學與 Agent 訓練資料。對研究者而言,可以比較不同訓練階段帶來什麼改變;對應用開發者而言,則能從現成版本開始測試,不必自己重做完整訓練。各資料集仍應分別查看自己的授權與說明。

小模型的價值,不只是分數

本地部署最直接的改變,是推論可以由自己的機器負責,而不是每次把輸入送到遠端模型。官方提供 llama.cpp、Ollama、LM Studio、MLX、vLLM 與 SGLang 等部署文件;Mac 使用者可以留意 MLX 路徑,想串接工具呼叫的開發者則有 SGLang 範例。這些是可用的技術入口,不代表已經是一個安裝後所有功能都準備好的消費型 App。

也別把「權重免費下載」理解成使用成本為零。記憶體、運算時間與電力仍由設備承擔,長上下文也會增加負擔。131K 是模型支援的上限,不是保證每台手機都能流暢處理同樣長度;本次沒有手機實測,因此不能承諾特定機型的速度或溫度。選擇量化版本時,也需要同時觀察品質是否符合自己的任務。

平均分領先,不代表每一項都贏

OpenBMB 公布的比較表中,MiniCPM5‑2B 在 34 項 benchmark 的平均分為 53.9,同表的 Qwen3.5‑4B 為 51.1。這是特定題目組合的比較結果,不等於所有能力全面勝出。官方表格也明確區分外部評測引用與內部重跑的項目,讀者不應把整張表都當成獨立第三方的實測。

例如,它在部分工具使用與程式任務表現突出,但 MMLU‑Pro、部分長上下文測試,以及較難的程式代理測試,仍有落後比較模型的地方。所以選型時要看自己要做的是知識問答、程式修補,還是固定格式的工具呼叫,而不是只憑一個平均分就把原本的模型全部換掉。

適合誰先試?

最適合先試的,是已有本地 AI 環境、希望降低雲端依賴,或研究小模型訓練的人。公開的權重、部署文件與中間版本,讓開發者可以實際驗證:哪些範圍清楚的任務能交給自己的設備處理,哪些仍需要較大的模型。

前往官方介紹與使用入口