上星期 HuggingFace 出現一個唔尋常嘅數字:Qwen3.8-27B 七日內狂掃 19,409 個 like、下載量衝破 766 萬次,直接壓過同期所有開源模型,連 Kimi K3.1 Pro 同 DeepSeek 系變體都要讓路。對一個「只係 27B 參數」嘅模型嚟講,呢個熱度近乎反常——因為大家心入面嘅問題都係同一句:開源模型幾時真係追得上 GPT 同 Claude?

今次呢篇就係想幫你答呢條問題。我唔會吹到天花龍鳳,而係實實在在講清楚:呢個模型究竟係咩、點樣裝、跑得順唔順、同閉源大廠比差幾遠,同埋對香港、台灣嘅普通用戶同小型團隊嚟講,值唔值得花時間試。

Qwen3.8-27B 到底係咩?點解突然爆紅

Qwen 系由阿里嘅通義千問團隊開發,一路都係開源界嘅「性價比之王」。今次 Qwen3.8-27B 嘅定位好清晰:用 27B 嘅參數規模,去挑戰過往要 70B 甚至更大先做到嘅推理同對話質素。

佢喺 HuggingFace 上嘅標籤係 image-text-to-text 同 conversational,即係話佢唔止識文字,仲支援多模態輸入(睇圖講嘢)。呢點對好多本地中小企好實用——例如影一張發票、一張餐牌、一份合約截圖,直接叫佢幫你抽出重點,唔使另外接 OCR 工具。

爆紅嘅真正原因有三個:

  1. 下載量 766 萬 代表唔止發燒友試,而係大量開發者同公司已經將佢接入生產流程;
  2. 27B 嘅硬件門檻親民——用 INT4 量化之後,一張 24GB 顯存嘅消費級顯卡(例如 RTX 4090)已經跑得動,唔使買 A100;
  3. 完全開源、可商用,對唔想將客戶資料送上 OpenAI 伺服器嘅公司嚟講,呢個係關鍵賣點。

實測重點:強項同死穴一次講清

我用咗幾日時間,喺本地同雲端兩種環境試過,以下係比較中肯嘅觀察。

強項方面:

  • 中文能力係同級頂尖。寫電郵、改文案、答香港廣東話夾雜英文嘅問題,佢嘅語感明顯比好多西方開源模型自然,唔會出現「翻譯腔」。
  • 長文推理穩定。餵一份 20 頁 PDF 叫佢總結,佢能夠抓住重點而唔會亂噏,出錯率比上一代 Qwen 明顯低。
  • 多模態實用。影相問「呢張圖有咩問題」真係答得似樣,唔係敷衍。
  • 部署自由。可以完全離線跑,資料唔出街,呢點對處理病人資料、客戶合約嘅行業係硬需求。

死穴亦都要老實講:

  • 27B 始終係 27B。面對超複雜嘅多步邏輯題、或者要寫幾千行嘅大型程式碼項目,佢同 GPT、Claude 頂級閉源模型仍然有距離,唔好期望佢一鍵取代。
  • 量化之後質素會跌。為咗塞入 24GB 顯存而用 INT4,回答質素會比原版稍為鬆散,尤其係數字同細節位。
  • 設定有門檻。唔係個個識裝 llama.cpp 或者 vLLM,對純粹想「開網頁就用」嘅用戶嚟講,仍然要花一兩個鐘設定。

三步本地部署:由零到跑得起

如果你想自己試,以下係最直接嘅路線(以有獨立顯卡嘅電腦為例):

第一步:揀量化版本。 去 HuggingFace 搵 Qwen3.8-27B 嘅 GGUF 版本,24GB 顯存建議揀 Q4_K_M,16GB 就要揀 Q3 或更細,質素換空間。

第二步:裝推理工具。 最簡單係用 LM Studio 或 Ollama,圖形介面㩒兩下載入模型就搞掂;想跑得快、要接 API 就裝 vLLM。

第三步:測試同調參。 載入之後,先問幾條你熟悉嘅問題(例如公司產品資料),睇下答得啱唔啱,再調整 temperature(建議 0.6 左右)同 context 長度。

如果冇顯卡,都可以用雲端 GPU 租用(例如每小時幾蚊美金)試跑,試完覺得啱先決定買硬件,唔使一開始就課金。

收費比較:免費開源 vs 閉源訂閱

呢度先講清楚一個概念:Qwen3.8-27B 本身完全免費,你畀嘅只係硬件或雲端成本。以下係粗略對比(以一般香港、台灣用戶常用方案計):

  • Qwen3.8-27B 本地跑:模型 $0,硬件一次性投入(RTX 4090 約 HK$13,000 起),電費每月幾十蚊。適合長期高用量。
  • ChatGPT Plus / Claude Pro:每月約 US$20(約 HK$156),無限對話但有用量上限,資料要上雲。
  • API 按量收費:用幾多畀幾多,適合用量唔穩定嘅團隊,但長期高用量會貴過本地部署。

換句話講:如果你每日都用、又重視私隱,本地跑開源模型兩三個月就回本;如果只係偶爾問兩句,訂閱閉源服務仍然最省事。

邊個應該用?邊個可以等?

適合用嘅人:

  • 中小企老闆、會計、法律行業——要處理敏感文件又唔想上雲;
  • 開發者——想接 API 做自己產品,唔想被大廠加價牽住走;
  • 內容創作者——要大量中文改寫、翻譯,想慳訂閱費。

可以再等嘅人:

  • 完全唔識技術、只想開網頁就用嘅用戶——閉源服務體驗仍然順好多;
  • 需要最頂級推理、寫大型程式嘅重度用戶——暫時閉源仍然領先。

延伸閱讀

總結:開源真係追到咩程度?

Qwen3.8-27B 嘅爆紅唔係偶然,佢代表咗一個好現實嘅趨勢:開源模型已經喺「夠用」同「便宜」呢兩條線上,正式威脅閉源大廠。佢未必樣樣贏,但對於大部分日常同商業場景,佢已經「夠用有餘」,而且仲要係免費、可控、資料唔出街。

我會咁講:如果你一直覺得 AI 工具「貴又唔放心」,Qwen3.8-27B 係一個值得你花一個週末試裝嘅選擇。試完之後,你可能會同我一樣——訂閱費,真係可以慳返。