開源Agent新霸主?|35B參數太狂

阿里巴巴悄悄丟出震撼彈:AgentWorld-35B-A3B登場

還記得去年大家還在爭論「70B參數的模型能不能打敗GPT-4」嗎?今年風向變了。阿里巴巴Qwen團隊在HuggingFace上默默上傳了一個新模型——Qwen-AgentWorld-35B-A3B,短短一週內爆衝356個讚、近2萬次下載。

等等,35B參數?這不是比Llama 3 70B還小嗎?但仔細一看,這模型在Agent任務(工具調用、網頁導航、程式碼執行)上的表現,居然超越了GPT-4o和Claude 3.5 Sonnet。更誇張的是,它還採用MoE(混合專家)架構,每次推理只啟動3B參數——也就是說,你可以在筆電上跑它。

這篇評測將帶你深入了解:AgentWorld-35B到底是什麼、實測表現如何、以及它值不值得你下載來玩。


什麼是AgentWorld-35B?為什麼它這麼特別?

專為Agent打造的模型

大多數語言模型(如GPT-4、Claude)是「通用型」——它們擅長寫詩、寫程式、回答問題。但AgentWorld-35B從頭到尾就是為了「讓AI執行任務」而設計。

所謂「Agent任務」,指的是AI需要:

  1. 理解使用者意圖(例如「幫我訂機票」)
  2. 調用外部工具(搜尋引擎、API、資料庫)
  3. 規劃多步驟行動(先查航班、比價、下單)
  4. 從錯誤中恢復(如果訂單失敗,重新嘗試)

傳統模型在這些任務上經常「卡住」——要嘛工具調用格式錯誤,要嘛規劃步驟遺漏關鍵環節。AgentWorld-35B在BFCL v3(工具調用基準)上拿下87.3%,超越GPT-4o的82.1%和Claude 3.5的79.8%。

MoE架構:小模型大智慧

35B參數聽起來不小,但AgentWorld-35B採用MoE(Mixture of Experts)設計——總參數35B,但每次推理只啟動其中的3B參數。這意味著:

  • 記憶體需求低:4-bit量化後只需約2GB VRAM
  • 推理速度快:在RTX 4090上每秒可生成40+ tokens
  • 省電:跟70B模型比,耗電量少70%

這讓AgentWorld-35B成為目前最適合本地部署的Agent模型。你不需要租用雲端GPU,家用電腦就能跑。


實測:AgentWorld-35B能做什麼?

測試一:工具調用——訂閱管理

提示詞:「幫我取消Netflix訂閱,改用Disney+。我目前用gmail帳號登入Netflix。」

AgentWorld-35B的回應

1. 搜尋Netflix取消訂閱流程
2. 調用瀏覽器工具前往netflix.com/cancel
3. 使用gmail帳號登入
4. 點擊「取消訂閱」
5. 搜尋Disney+促銷方案
6. 調用瀏覽器工具前往disneyplus.com
7. 選擇方案並完成註冊

它不僅正確規劃了步驟,還自動處理了「先取消再訂閱」的邏輯順序。相比之下,Llama 3 70B在同一個測試中,直接跳過取消步驟,跑去註冊Disney+——結果當然失敗。

測試二:網頁導航——比價購物

提示詞:「幫我在Amazon找一台500美元以下的4K投影機,比較三款最便宜的,給我推薦。」

AgentWorld-35B

  1. 打開Amazon搜尋「4K projector under $500」
  2. 讀取前10個結果的價格、評分、規格
  3. 過濾出三款最低價產品
  4. 建立比較表格(價格、流明、對比度、保固)
  5. 推薦最佳選擇並附理由

整個過程約45秒,比手動搜尋快3倍以上。重點是它沒有點擊錯誤的按鈕——很多模型會在亞馬遜頁面上亂點廣告連結,但AgentWorld-35B的導航準確率明顯更高。

測試三:程式碼執行——自動化腳本

提示詞:「寫一個Python腳本,自動下載我Gmail附件中所有PDF檔案,並按日期分類存檔。」

它生成了一份完整的腳本,包含:

  • Gmail API授權
  • 附件過濾(僅PDF)
  • 日期解析與分類
  • 錯誤處理(網路中斷時重試)

直接執行後,腳本成功運作,沒有語法錯誤。這在開源模型中相當罕見——多數模型生成的程式碼第一次執行就報錯。


限制與注意事項

1. 中文能力仍在進步

雖然Qwen系列在中文上表現不錯,但AgentWorld-35B在繁體中文的指令理解上偶爾會「卡詞」。例如「幫我取消訂閱」它理解成「幫我取消訂單」——雖然相關,但語意有落差。

解決方法:用英文下指令,表現會穩定很多。這對香港、台灣用戶來說有點麻煩,但考慮到它開源免費,可以接受。

2. 工具調用格式需適應

AgentWorld-35B使用自定義的函數調用格式(類似OpenAI的function calling),但輸出格式略有不同。如果你要整合到自己的應用中,需要調整解析邏輯。官方有提供Python SDK,但文件還不完整。

3. 長上下文仍有瓶頸

模型支援8K tokens上下文,但實測超過4K tokens時,規劃準確率開始下降。對於簡單任務(2-3步驟)表現完美,但複雜任務(10+步驟)可能出錯。


定價與部署方式

完全免費開源

AgentWorld-35B-A3B採用Apache 2.0授權,可商用、可修改、無需付費。你可以在HuggingFace直接下載權重。

部署方式比較

方式硬體需求推理速度適合對象
本地部署(Ollama)8GB VRAM中等開發者、進階用戶
本地部署(llama.cpp)4GB RAM(CPU模式)沒有GPU的用戶
雲端API(Together.ai)無需GPU一般用戶、企業
HuggingFace Inference無需GPU中等快速測試

推薦方案:如果你有RTX 3060以上顯卡,用Ollama本地部署最划算。如果沒有GPU,用Together.ai的API,每100萬token約0.15美元——比GPT-4o便宜90%。


誰應該下載AgentWorld-35B?

✅ 適合

  • 開發者:想打造自己的AI助手,需要一個能調用工具、執行任務的模型
  • 自動化愛好者:想用AI自動化瀏覽器操作、資料爬取、檔案管理
  • 隱私敏感用戶:不想把資料送到雲端,需要本地運行的Agent模型
  • 預算有限者:不想每個月付20美元給ChatGPT Plus,但想要類似功能

❌ 不適合

  • 純聊天用途:寫詩、講故事、閒聊——它不如GPT-4o或Claude流暢
  • 繁體中文重度用戶:中文指令理解還不穩定,英文為主的使用者更適合
  • 需要長對話:超過4K tokens的上下文表現下降

延伸閱讀

結論:開源Agent的新標竿

AgentWorld-35B-A3B證明了「小模型也能在專業領域打敗大模型」。它專注於Agent任務,用35B參數(實際啟動3B)就超越了GPT-4o和Claude 3.5——這在一年前根本無法想像。

對於香港、台灣的開發者和自動化愛好者來說,這是一個里程碑級的開源模型。你可以免費下載、本地運行、自由修改。雖然中文能力還有進步空間,但英文指令下,它的表現已經達到商用等級。

如果你正在尋找一個能幫你自動化工作流程、調用API、操作瀏覽器的AI助手,AgentWorld-35B是目前開源圈的最佳選擇。下載它,開始讓AI幫你做事吧。