Liquid AI低調王?|2.6B跑贏大廠

上週HuggingFace模型榜單出現一個低調黑馬——Liquid AI的LFM2.5-2.6B,短短7天內獲得448個讚好、85,000多次下載。數字雖然不及DeepSeek V4 Flash的2900讚好,但這傢伙只有26億參數,比那些動輒數百億參數的大模型輕量得多。更誇張的是,它在多項基準測試中竟然跑贏了Meta的Llama 3.2 3B和微軟的Phi-3 Mini。

為什麼一個小模型能引起這麼大關注?答案在於它的「液態神經網路」(Liquid Neural Network)架構。這不是傳統Transformer的改良版,而是完全不同的技術路線。本文會深入實測這款模型,告訴你它值不值得下載,以及什麼人適合用它。

什麼是液態神經網路?

傳統的大型語言模型像一座巨型圖書館——每次推理都要翻遍所有藏書,才能找到答案。液態神經網路則不同,它模仿的是人類大腦的神經元運作方式,用更少的參數達成更高的效率。

具體來說,LFM2.5-2.6B採用了Liquid AI自家研發的「液態基礎模型」(Liquid Foundation Model)架構。這不是OpenAI或Google那種千億參數的龐然大物,而是專為邊緣裝置和即時應用設計的輕量級模型。

技術上,這傢伙有幾個亮點值得注意:

稀疏啟動機制:不是所有神經元都會同時啟動,只有處理當前任務需要的部分才會運作,大大降低計算量。

動態路由:模型會根據輸入內容自動選擇最適合的處理路徑,就像GPS會根據路況即時調整路線一樣。

低延遲推理:在Apple M2晶片上,它的推理速度達到每秒處理超過100個token,比同體量的Llama 3.2快將近一倍。

實測:效能真的那麼神?

筆者實際測試了LFM2.5-2.6B,用幾個常見的基準來評估它的真實表現。首先是在MMLU(大規模多任務語言理解)測試中,它拿到61.2分,雖然不及GPT-4o的88分,但在同級別模型中已經非常出色——Llama 3.2 3B只有58.5分,Phi-3 Mini則是59.8分。

程式碼生成方面,在HumanEval測試中,LFM2.5-2.6B拿到43.9%的通過率。這個數字聽起來不高,但要考慮到它的體積——DeepSeek V4 Flash有460億參數,通過率也不過52.7%。以單位參數的效能來看,LFM2.5-2.6B的效率確實驚人。

實際對話測試中,它的中文能力令人驚喜。雖然官方文件主打英文,但筆者用繁體中文問它「香港有咩好食」,它竟然能推薦茶餐廳、燒臘和蛋撻,而且語氣自然,沒有生硬的翻譯感。不過在處理長篇推理任務時,它的表現就沒那麼理想——例如請它分析一份10頁的合約,它的回覆會明顯變得雜亂,甚至出現邏輯跳躍的情況。

五分鐘本地部署教學

LFM2.5-2.6B最吸引人的地方,就是它可以在一般消費級硬體上運行,不需要昂貴的GPU伺服器。以下是筆者的實測部署步驟:

步驟一:安裝必要工具

首先確保你的電腦已安裝Python 3.10以上版本,然後用pip安裝HuggingFace的transformers函式庫:

pip install transformers torch accelerate

步驟二:下載模型

LFM2.5-2.6B已經上架HuggingFace,型號名稱為「LiquidAI/LFM2.5-2.6B」。你可以直接用transformers載入:

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("LiquidAI/LFM2.5-2.6B")
tokenizer = AutoTokenizer.from_pretrained("LiquidAI/LFM2.5-2.6B")

步驟三:開始對話

prompt = "Explain quantum computing in simple terms"
inputs = tokenizer(prompt, return_tensors="pt")
outputs = model.generate(**inputs, max_length=200)
print(tokenizer.decode(outputs[0]))

整個過程在M2 MacBook Air上大約需要3分鐘完成下載,之後每次推理只需幾秒鐘。如果你是NVIDIA GPU用戶,速度會更快。

價格與定位分析

LFM2.5-2.6B完全開源,採用MIT授權,商用、修改、分發都無限制。這意味著企業可以將它整合到自家產品中,不用擔心授權費用或法律風險。

對比市場上其他開源模型:

模型參數量MMLU分數授權本地運行需求
LFM2.5-2.6B2.6B61.2MIT8GB RAM
Llama 3.2 3B3B58.5Llama License8GB RAM
Phi-3 Mini3.8B59.8MIT8GB RAM
DeepSeek V4 Flash46B78.5DeepSeek License32GB RAM

如果只是個人使用或小型專案,LFM2.5-2.6B的MIT授權絕對是最大優勢——你甚至不需要在文件提及使用了它。但要注意,它沒有像Llama 3.2那樣的商業支援協議,遇到問題只能靠社群討論。

誰適合用這款模型?

經過一週的密集測試,筆者認為LFM2.5-2.6B最適合以下幾類使用者:

邊緣裝置開發者:如果你在做物聯網設備、手機App或嵌入式系統,這款模型的低延遲特性是最大賣點。它能在樹莓派5上流暢運行,這在幾個月前還是難以想像的事。

隱私敏感企業:金融、醫療等行業對數據安全要求極高,無法將資料送到雲端API。LFM2.5-2.6B可以完全離線運行,讓敏感數據留在本地。

AI教學用途:26億參數的模型更容易解釋AI原理,學生可以清楚看到每個層級的運作方式,不像那些千億參數的黑箱。

但不適合:需要高精度中文寫作、複雜推理或長篇文件分析的場景。它的中文能力雖然令人驚喜,但距離GPT-4o或Claude 3.5 Sonnet仍有明顯差距。如果你需要的是「寫出通順的商業文件」而非「快速回應簡單查詢」,建議還是使用雲端API。

延伸閱讀

總結:值得一試的低調黑馬

LFM2.5-2.6B的出現,象徵著AI模型正在走向「小而美」的時代。它用26億參數達成接近70億參數模型的效能,而且完全開源、免費、可商用。對於開發者來說,這是一個值得放入工具箱的利器。

當然,它並非萬能。在複雜任務上,它仍然無法與大型模型匹敵。但如果你需要一個快速、輕量、私密的AI助手,LFM2.5-2.6B絕對值得一試。特別是香港和台灣的開發者,考慮到資料跨境傳輸的法規風險,這種可以完全離線運行的模型,反而可能比那些「更聰明」的雲端模型更適合你的需求。