上星期 HuggingFace 熱門榜出現一個熟悉又陌生的名字：openbmb/MiniCPM-V-4.7-35B-A3B，一週內累積 852 個讚、1.7 萬次下載。對一個來自北京面壁智能（OpenBMB）的開源多模態模型來說，這個熱度不算爆炸，但意義重大——因為它代表「大模型縮到可以塞進手機」這條路線，終於走到實用階段。

過去一年，香港和台灣的讀者問得最多的問題不是「哪個模型最強」，而是「哪個模型我不用付月費、不用排隊、又唔會將我份合約上傳去美國伺服器」。MiniCPM-V 4.7 正是衝著這個需求而來。本文會實測它在繁體中文 OCR、文件理解、截圖問答三個場景的表現，並同 GPT-4o、Gemini 做直接比較。

這到底是什麼？35B 卻只跑 3B 的魔法

先講清楚架構，因為這是它最反直覺的地方。

模型名稱 35B-A3B 的意思是：總參數 35B，但每次推理只激活 3B（A = Active）。這是混合專家（MoE）架構，模型內部有多個「專家」子網絡，每次輸入只會叫醒其中一小部分。結果是：記憶體佔用接近 35B 模型，但運算速度和耗電接近 3B 小模型。

對一般用戶來說，這句話翻譯成：一部 16GB RAM 的 MacBook Air，或者一部 12GB RAM 的旗艦 Android 手機，理論上都跑得動。對比之下，同級的多模態模型（例如 Qwen2.5-VL 72B）基本上要 48GB 以上顯示記憶體，普通人根本玩不到。

它的能力清單包括：圖像描述、OCR（支援中英日韓等多語）、表格抽取、截圖問答、影片逐格理解。官方 benchmark 在多個 OCR 測試上聲稱超越 GPT-4o，這句話筆者實測後只能說「部分成立」——下面會詳細講。

實測一：繁體中文 OCR，合約與發票

測試材料：一份 6 頁的香港租約 PDF（轉成圖片）、一張台灣電子發票、一頁混排中英的產品說明書。

結果：租約的繁體字辨識率相當高，連「樓宇」「按金」「租客」這類港式用詞都準確抓出，段落結構也保留得不錯。發票的表格欄位（品名、數量、單價、稅額）能正確輸出成 Markdown 表格，這點比很多雲端 API 都好。

但有兩個明顯限制：

  1. 手寫字仍然吃力。測試中一張手寫便條，約有兩成字辨識錯誤，尤其連筆的「的」「是」經常混淆。
  2. 印章與蓋章文字基本放棄。紅色印章覆蓋在文字上時，模型會直接跳過該區域，不會嘗試還原。

對於處理發票、報價單、標準合約的香港中小企來說，這個水準已經足夠做「先機器抽取、人手覆核」的半自動流程，省下的時間相當可觀。

實測二：截圖問答與介面理解

第二個場景更貼近日常：把一張 App 截圖丟進去，問「這個畫面哪個按鈕可以取消訂閱？」

模型能正確定位到畫面上的按鈕位置，並用文字描述其相對位置（「右上角齒輪圖示下方第三項」）。這種「看圖回答」能力在自動化測試、客服輔助、無障礙閱讀上都有實際用途。

不過要注意：它不是一個可以輸出座標、直接操控手機的 agent 模型。如果你要的是「AI 幫我點擊」，這個模型做不到，你需要的是另一類 GUI agent 方案。它的定位是「理解畫面內容」，不是「操作畫面」。

實測三：同 GPT-4o、Gemini 正面比較

項目MiniCPM-V 4.7GPT-4oGemini 2.5 Pro
繁體中文 OCR佳（印刷體）佳佳
手寫辨識中佳佳
表格抽取佳佳佳
可離線運行✅❌❌
資料不出裝置✅❌❌
部署成本一次性（硬件）月費月費／免費層

結論很清楚：在「雲端最強」這個維度上，MiniCPM-V 4.7 不是 GPT-4o 的對手，尤其在複雜推理和手寫辨識上仍有差距。但它的價值不在「最強」，而在「夠用、免費、離線、私隱」。當你處理的是公司內部合約、病人紀錄、客戶身份證副本，把檔案上傳去美國這件事本身可能就是合規風險——這時候「差一點但不出門」的模型，價值遠高於「最強但要上傳」。

安裝步驟：三個方法，由易到難

方法一：Ollama（最簡單，適合 Mac／Windows）

  1. 安裝 Ollama 後，終端機輸入 ollama pull minicpm-v
  2. 輸入 ollama run minicpm-v，直接把圖片路徑貼進去
  3. 適合快速試玩，但量化版本精度會略降

方法二：Transformers + Python（最靈活）

  1. pip install transformers accelerate
  2. 從 HuggingFace 下載 openbmb/MiniCPM-V-4.7-35B-A3B
  3. 用官方提供的 chat() 範例載入圖片並提問
  4. 建議 16GB 以上記憶體，否則要加載 4-bit 量化

方法三：手機端（Android 為主） 官方有提供轉換後的 GGUF 量化版本，配合 llama.cpp 或 MLC 可以在旗艦機離線運行。實測在 12GB RAM 的 Android 旗艦上，單張圖片推理約需 8–15 秒，可以接受但不算快。

定價：模型免費，成本在硬件

這點要講清楚，因為很多讀者會誤會。

  • 模型本身完全免費，Apache 2.0 授權，商用也可以（需留意個別元件授權）。
  • 成本在硬件：想順暢跑 35B-A3B，建議 16GB 統一記憶體以上；手機端則需要 12GB RAM 以上的旗艦機。
  • 對比雲端：GPT-4o 或 Gemini 的月費約 US$20 起，一年約 HK$1,900。如果你本身已經有一部夠力的 Mac，本地部署的邊際成本接近零。

換句話說：如果你已經有硬件，這是近乎零成本的方案；如果你要為它買機，就要計清楚是否值得。

誰應該用？誰應該跳過？

適合用的人：

  • 香港／台灣中小企，要處理大量發票、合約、表格，但不想把資料上傳雲端
  • 律師、會計、醫療相關從業員，合規要求高
  • 開發者想在自己的 App 內嵌入離線 OCR，不想依賴 API 費用
  • 對私隱極度敏感、連 ChatGPT 都不想用的個人用戶

應該跳過的人：

  • 需要最強推理、複雜多步分析的用戶——直接付費買 GPT-4o 或 Gemini
  • 需要手寫辨識為主的場景（例如舊檔案數碼化）
  • 完全不想碰終端機、只想「開網頁就用」的用戶——這類人應該等有廠商把它包裝成 App

延伸閱讀

結語：不是最強，但是「夠用又私有」的代表作

MiniCPM-V 4.7 的意義，不在於它打贏了誰，而在於它證明了「大模型可以縮到普通人手裡，而且繁體中文表現過關」。對於每天要處理大量中文文件的香港和台灣讀者，這是一個真正可以落地的工具，而不是又一個 benchmark 上的數字。

它的短板很明確：手寫、印章、複雜推理仍然要人手補位。但當你把「資料不出門」這個價值放上天秤，很多企業會發現，「差一點但安全」比「最強但上傳」更划算。

如果你想試，建議先用 Ollama 版本花半小時玩一玩，確認 OCR 水準符合你手上的文件類型，再決定是否投入時間做正式部署。這一步，比看任何評測都重要。