上星期 HuggingFace 的趨勢榜單上,有一個名字不太起眼但下載量穩定爬升:LiquidAI/LFM3-1.7B。一週內累積 572 個 like、超過 2.3 萬次下載,對一個只有 17 億參數的「細模型」來說,這個數字其實相當誇張。

原因很簡單:它標榜可以在手機、舊筆電、甚至 Raspberry Pi 這類邊緣裝置上直接跑,不需要 GPU 伺服器,不需要每月付 API 費用,也不需要把公司機密資料上傳到別人的雲端。對香港、台灣大量做中小企生意、又開始擔心資料外洩的讀者來說,這個賣點值得認真拆解。

本文會講清楚三件事:LFM3 到底是什麼、實際跑起來表現如何、以及它適合誰用——還有,它不適合誰用。

Liquid AI 是誰?為何這個 1.7B 值得看

Liquid AI 是從 MIT CSAIL 分拆出來的初創公司,主打「Liquid Neural Network」架構,聲稱比傳統 Transformer 更適合在資源有限的裝置上做即時推理。LFM3-1.7B 是他們第三代產品線中最細的一員,採用了 lfm3 架構,權重以 safetensors 格式釋出,屬於 text-generation 任務。

跟同期榜上的 DeepSeek-V4.1-Flash(145,869 次下載)或 Mistral-Large-4(1.2 萬億參數級)相比,LFM3 的定位完全不同:它不是要跟大模型鬥智能,而是要跟「你有沒有必要用大模型」這個問題競爭。

香港很多公司現在的做法是:所有 AI 功能都 call OpenAI 或 DeepSeek 的 API。聽起來方便,但當你每月帳單累積到幾千蚊、而實際用途只是「幫客服草擬回覆」、「幫倉務整理貨單描述」這類低複雜度任務時,用 1.7B 模型本機處理,成本結構會完全不同。

實測:手機同舊筆電跑得動嗎?

我們在三個環境測試:一部 2023 年的 iPhone(8GB RAM)、一部 2019 年的 MacBook Air(Intel i5、8GB RAM)、以及一台 Raspberry Pi 5(8GB)。

安裝步驟(Mac / Linux 最簡單):

  1. 安裝 Ollama 或 llama.cpp(LFM3 已有社群 GGUF 量化版本流通)
  2. 執行 ollama run lfm3:1.7b 或載入對應 GGUF 檔
  3. 首次載入約需 30–60 秒,之後常駐記憶體約 1.2–1.6GB
  4. 用 curl 或任何 OpenAI 兼容客戶端指向本地端口即可

實測結果:

裝置生成速度穩定度
iPhone(App 方案)約 12–18 tokens/秒順暢,機身微溫
MacBook Air 2019約 8–14 tokens/秒可用,風扇明顯轉
Raspberry Pi 5約 3–5 tokens/秒慢但可行

質素方面:處理「將這段廣東話客服對話整理成三點摘要」、「幫我寫一封英文催款信」、「解釋這段合約條款的風險」這類任務,LFM3 的表現意外地實用,繁體中文輸出文法正確,偶爾會有詞彙生硬的情況,但以 17 億參數來說已超出預期。

不過一問到需要多步推理的問題——例如「比較這三份報價單並指出隱藏成本」——它就會明顯力不從心,答案會漏項或混淆數字。這正是細模型的物理極限,不是調參數可以解決的。

三大優勢與三個明顯限制

優勢一:資料不出機。 對處理客戶個人資料、病歷、法律文件的香港中小企來說,這是最大的賣點。合規部門不用再頭痛「資料傳去美國伺服器」的問題。

優勢二:零邊際成本。 跑一次跟跑一萬次,成本一樣。如果你的應用場景是「每日處理幾百張單」,長期計比 API 便宜得多。

優勢三:離線可用。 現場工地、船艙、偏遠倉庫這類網絡不穩的環境,本機模型是唯一可行方案。

限制一:推理能力天花板低。 任何需要規劃、多步計算、長文邏輯連貫的任務,都不應該交給 1.7B。

限制二:生態仍在早期。 相比 Llama 或 Qwen 系列,LFM3 的微調範例、社群工具、量化版本都較少,遇到問題時 Google 得到的答案不多。

限制三:香港硬件選擇有限。 要在手機上跑得順,需要一定規格;舊機型(4GB RAM 以下)基本上不用想。

收費與授權:幾時要付錢?

LFM3-1.7B 的權重本身在 HuggingFace 上可免費下載,但要注意授權條款。Liquid AI 對其模型採用自家許可,商業用途有門檻——一般來說,研究與個人使用免費,但若你打算將模型嵌入商業產品並對外提供服務,需要向 Liquid AI 申請商業授權,具體費用需直接洽談。

換句話說:自己公司內部用,通常沒問題;做成 SaaS 賣給別人,就要看清楚條款。 這一點跟 Llama 系列的社群授權邏輯類似,但細節不同,建議找法務確認。

至於雲端 API 路線,Liquid AI 也有提供託管版本,按 token 計費,適合不想自己維運的團隊。以香港讀者常見的用量估算,若每月處理量低於約 200 萬 tokens,用 API 反而更省事;超過這個量、又或者有資料主權要求,本機部署才開始划算。

邊個應該用?邊個唔應該?

適合用:

  • 中小企想將 AI 嵌入內部流程,但不想資料外流
  • 開發者做離線 App、IoT 裝置、現場工具
  • 想學本地 LLM 部署、但又不想買貴 GPU 的學生與自學者
  • 需要處理大量低複雜度文字任務(分類、摘要、草擬)的營運團隊

不適合用:

  • 需要複雜推理、程式生成、多步分析的場景(老實說,還是要用大模型)
  • 完全沒有技術人手、只想「開個網頁就用」的用戶
  • 需要繁體中文深度創作(寫文案、寫長文)的內容團隊

延伸閱讀

結語:細模型不是萬能,但係時候認真看待

LFM3-1.7B 的意義不在於它有多強,而在於它證明了「夠用的 AI 可以放在你自己的機器裡」這件事,已經從概念走到可實際落地。對香港、台灣大量資源有限但又想用 AI 的中小企來說,這條路線的性價比正在快速改善。

我的建議是:先花一個下午裝來玩玩,用你公司最常見的三個任務考它。如果它答得七七八八,你就找到了一個幾乎零成本的內部工具;如果它答得一塌糊塗,你也會更清楚自己為什麼需要付錢給大模型——這個認知本身就值回票價。

細模型不會取代大模型,但它會吃掉大模型最不划算的那一塊市場。這一點,值得每個正在規劃 AI 預算的人認真想一想。