上星期 Hugging Face 有個數字好誇張:Qwen3.8-27B 七日內衝到 20,451 個 like、接近 700 萬次下載,連帶 unsloth 出嘅 GGUF 量化版都有 680 萬次下載。呢個熱度,唔係普通開源模型做到。

問題係:香港同台灣嘅普通用戶,究竟有冇必要理佢?27B 參數聽落好大部,但如果你有一部 32GB RAM 嘅 MacBook,或者一張 24GB 顯存嘅顯示卡,其實已經跑得郁。今次我實測咗幾日,講清楚佢叻喺邊、伏喺邊、邊個應該用。

Qwen3.8-27B 係咩?點解突然爆紅

Qwen 系列係阿里通義千問嘅開源分支,一路以嚟都係「中文友好 + 授權寬鬆」嘅代表。3.8 呢個版本嘅 27B 屬於中型密集模型(dense model),主打 image-text-to-text 同對話能力,即係話佢唔止識文字,仲睇得明圖。

爆紅有三個原因。第一,27B 呢個 size 好尷尬但又好實用——細過 70B,單機跑得動;大過 7B/14B,質素有明顯躍升。第二,unsloth 同步出咗 GGUF 量化版,令冇頂級硬件嘅人都玩得。第三,授權相對寬鬆,商業用途門檻低,唔少中小企開始試。

對比之前我哋寫過嘅「27B 塞入部機」嗰類文章,今次重點唔同:唔係講「跑得起」,而係講跑得起之後,值唔值得你放棄雲端 API。

實測:硬件需求同安裝步驟

先講實際數字。我分別喺兩部機試:

  • MacBook Pro M3 Pro / 36GB 統一記憶體:用 LM Studio 載入 Q4_K_M 量化版(約 16GB),跑得好順,生成速度大約每秒 18-22 token。
  • Windows 桌面 / RTX 4090 24GB:用 Ollama 載入同一個量化版,速度每秒 35-45 token,明顯快一截。

安裝其實好簡單,以 Ollama 為例:

  1. 去 ollama.com 下載對應系統版本並安裝。
  2. 終端機輸入 ollama run qwen3.8:27b(或指定量化 tag)。
  3. 首次會自動下載模型檔,Q4 版大約 16-17GB,預留 20GB 硬碟空間。
  4. 載入後直接對話,或者用 ollama serve 開 API 俾其他 App 駁。

如果想圖文輸入,就要用支援 vision 嘅前端,例如 LM Studio 或者 Open WebUI,設定上多一兩步,但唔難。

注意:官方原版 safetensors 係 fp16,要成 50GB 以上,一般家用機唔建議。想玩就要揀 GGUF 或 AWQ 量化版,質素損失喺 Q4 級別大約 2-5%,日常用唔太覺。

強項:中文、長文、圖文理解

實測幾日,我覺得佢最值錢嘅係三點。

一、中文真係好。 唔少開源模型英文勁、中文弱,Qwen 系一路都係例外。我用香港廣東話書面語、台灣繁體、混雜英文嘅技術文件去測,佢理解同輸出都自然,唔會出現「翻譯腔」。寫電郵、改文案、整理會議紀錄,直接可用。

二、長上下文處理穩。 我丟咗一份 40 頁 PDF 出嚟叫佢摘要同抽重點,答案結構清晰,冇明顯幻覺。對比同級 14B 模型,27B 喺「唔好亂作」呢方面明顯可靠啲。

三、圖文理解夠用。 截圖問「呢個 error 咩事」、影張發票叫佢抽數字,都應付到。當然唔及專門嘅 vision 大模型精準,但免費本地跑,收貨。

限制:唔好當佢萬能

要老實講幾樣伏位。

速度同硬件掛鈎。 如果你部機只有 16GB RAM,Q4 版載入已經好勉強,仲要同系統爭記憶體,體驗會差。想順跑,32GB RAM 或 24GB 顯存係實際門檻。

唔係最強。 同 GPT-6.2、Claude 最新版比,複雜推理、寫長程式碼、多步 agent 任務,27B 仍然有距離。尤其係要佢做「自己查資料再答」嘅 agent 工作,本地模型暫時唔夠班。

更新要自己搞。 雲端 API 你唔使理版本,本地模型要自己留意新量化版、自己重新下載。對唔熟命令行嘅人,係一道門檻。

耗電同風扇。 laptop 跑 27B,風扇會起飛,電池撐唔到兩個鐘。呢點評測文好少講,但實際用落好影響體驗。

價錢:免費,但「成本」喺硬件

模型本身完全免費,Qwen 授權容許商業使用(建議睇清楚最新條款)。真正成本喺硬件:

方案一次性成本(約)速度
現有 32GB MacHK$0中
現有 RTX 4090 機HK$0快
升級至 64GB RAMHK$2,000-4,000中
租雲端 GPU(A10/4090)每小時 HK$5-15快

對比 ChatGPT Plus 每月 US$20、Claude Pro 每月 US$20,如果你日日用、用量大,本地跑半年就回本。但如果只係間中問兩句,訂閱反而更抵,唔使煩硬件。

延伸閱讀

邊個應該用?總結

適合用:有 32GB RAM 或 24GB 顯存嘅開發者、想將 AI 接入內部系統又唔想資料出境嘅中小企、經常處理敏感文件嘅專業人士(律師、會計、醫護)。

唔適合用:硬件入門級用戶、需要最頂級推理能力嘅人、唔想掂命令行嘅純用戶。

我嘅結論係:Qwen3.8-27B 唔係「取代 ChatGPT」,而係填補一個雲端服務填唔到嘅位——資料唔出機、無用量上限、免費。如果你嘅工作涉及機密文件,或者你厭倦咗每月訂閱費,佢值得你花一個周末試裝。試完之後,你可能同我一樣:雲端照用,但敏感嘅嘢,留返俾本地部機。