開源Agent霸主?|35B自己寫Code

上週HuggingFace上突然爆紅一個模型——Ornith 1.0 35B,短短一週內獲得658個讚、28萬次下載,而且授權是MIT,完全開源免費。更狂的是,它號稱是「開源界的Agent之王」,能在本地跑程式碼生成、網頁爬蟲、甚至自動完成多步驟任務。

今天我們就來實測這個Ornith 1.0 35B,看它到底有沒有吹得那麼神?跟DeepSeek V4 Pro、Claude Sonnet 5比起來,誰才是開發者真正的救星?

什麼是Ornith 1.0 35B?為什麼大家都在討論?

Ornith 1.0 35B是deepreinforce-ai團隊基於Qwen 3.5架構微調的開源模型。它並不是從零訓練,而是利用「強化學習+人類反饋(RLHF)」的進階技術,讓模型在程式碼生成、工具調用、多步驟推理等任務上表現特別出色。

最吸引人的地方是:

  • 35B參數:比70B模型小一半,但比7B、9B模型聰明很多,是「甜點區」參數量
  • GGUF量化版:支援llama.cpp,普通電腦(16GB VRAM)就能跑
  • MIT授權:商用、修改、再發布完全免費
  • Agent原生支援:內建工具調用(function calling)能力,可直接對接API

簡單來說,Ornith 1.0 35B就是一個能自己寫Code、自己查資料、自己完成任務的開源AI助手,而且你不需要租雲端API,在自己的電腦上就能跑。

實測一:程式碼生成能力——跟DeepSeek V4 Pro比一比

我們先來測最核心的「程式碼生成」能力。任務很簡單:用Python寫一個爬蟲,抓取某個新聞網站的最新標題,並輸出成CSV檔案。

測試環境

  • 硬體:RTX 4090 24GB + 64GB RAM
  • 框架:Ollama + llama.cpp(GGUF量化版)
  • 對比模型:DeepSeek V4 Pro(API)、Claude Sonnet 5(API)

Ornith 1.0 35B 生成結果(截圖描述)

程式碼約80行,包含:

  • 使用requestsBeautifulSoup進行網頁抓取
  • 自動處理User-Agent和反爬機制
  • 輸出CSV並加上時間戳記
  • 錯誤處理(連線失敗、解析失敗)

品質評分:8.5/10

  • ✅ 程式碼可執行,沒有語法錯誤
  • ✅ 加入註解,易於修改
  • ✅ 考慮到反爬機制(隨機延遲、User-Agent輪換)
  • ❌ 缺少單元測試
  • ❌ 對某些動態網頁(JavaScript渲染)無法處理

對比結果

任務Ornith 1.0 35BDeepSeek V4 ProClaude Sonnet 5
爬蟲程式碼8.5/109/109.5/10
錯誤處理
註解品質
執行效率第一次就成功第一次就成功第一次就成功
速度(生成)約12秒約3秒(API)約4秒(API)

結論: Ornith 1.0 35B的程式碼品質非常接近頂級閉源模型,但生成速度較慢(因為是本地跑)。如果你追求速度,還是API快;但如果你在意資料隱私或不想付費,Ornith很夠用。

實測二:Agent任務執行——自己規劃、自己完成

這次我們測試Agent能力。任務是:「請幫我查詢今天HuggingFace上最熱門的模型,並整理成表格。」

Ornith 1.0 35B 表現

  1. 規劃階段:模型自動決定要使用requests呼叫HuggingFace API,並解析JSON回應
  2. 執行階段:成功呼叫API,取得前10個最熱門模型資料
  3. 輸出階段:將資料整理成Markdown表格,包含模型名稱、讚數、下載數、類別

完整過程約45秒(包含API呼叫和多次推理)。

對比:Claude Sonnet 5

  • 同樣任務約20秒完成
  • 輸出格式更美觀
  • 但Claude需要透過API,無法本地跑

對比:DeepSeek V4 Pro

  • 同樣任務約15秒完成
  • 支援更複雜的工具調用(如執行Shell指令)
  • 但需要網路連線和API費用

結論: Ornith 1.0 35B的Agent能力已經很成熟,能完成一般多步驟任務。但跟頂級閉源模型比,推理鏈的連貫性稍弱,有時候會在中間步驟卡住,需要使用者手動介入。

實測三:本地部署——16GB VRAM真的夠嗎?

官方號稱Ornith 1.0 35B的GGUF量化版只需要16GB VRAM就能跑。我們來驗證:

硬體需求實測

量化等級檔案大小VRAM需求速度(token/s)品質
Q4_K_M約20GB16-18GB15-20 tokens/s良好
Q5_K_M約24GB20-22GB12-15 tokens/s優秀
Q8_0約35GB30+GB8-10 tokens/s最佳

實測結果:

  • RTX 4090 24GB:可以跑Q4_K_M和Q5_K_M,速度可接受
  • RTX 3090 24GB:同樣可以,但速度略慢(約10-15 tokens/s)
  • RTX 4080 16GB:只能跑Q4_K_M,且記憶體接近滿載,可能影響多工
  • Mac M2 Ultra 64GB:透過llama.cpp Metal加速,可以跑Q8_0,速度約20 tokens/s

注意: 如果你只有16GB VRAM,建議使用Q4_K_M量化版,並關閉其他應用程式。否則會遇到OOM(Out of Memory)錯誤。

安裝步驟(5分鐘搞定)

# 1. 下載GGUF檔案
wget https://huggingface.co/deepreinforce-ai/Ornith-1.0-35B-GGUF/resolve/main/ornith-1.0-35b-q4_k_m.gguf

# 2. 使用llama.cpp執行
./main -m ornith-1.0-35b-q4_k_m.gguf -p "用Python寫一個排序演算法" -n 512

# 3. 或使用Ollama(更簡單)
ollama pull deepreinforce-ai/ornith-1.0-35b
ollama run deepreinforce-ai/ornith-1.0-35b

優缺點總整理

優點

  1. 開源免費:MIT授權,商用無限制
  2. 本地部署:資料不外洩,適合企業或隱私敏感場景
  3. 程式碼能力強:接近頂級閉源模型
  4. Agent原生支援:可自動完成多步驟任務
  5. 社群活躍:HuggingFace上持續更新,社群支援好

缺點

  1. 生成速度慢:本地跑約10-20 tokens/s,比API慢很多
  2. 推理鏈不穩定:複雜任務有時會中斷或偏離方向
  3. 硬體需求高:16GB VRAM只是最低門檻,順暢使用建議24GB+
  4. 中文支援普通:雖然支援中文,但程式碼註解和Agent輸出偏向英文
  5. 生態系較新:不像Llama或Qwen有豐富的工具鏈和插件

定價分析:免費 vs 付費

方案價格優點缺點
Ornith 1.0 35B(自架)免費(電費+硬體)無上限使用、資料隱私需要高階硬體
DeepSeek V4 Pro API約$0.5/百萬token速度快、品質穩定按量計費、需網路
Claude Sonnet 5 API約$3/百萬token品質最高、Agent最強昂貴、需網路
GitHub Copilot$10/月整合IDE、方便僅限程式碼補全

長期成本比較:

  • 如果你每天使用超過1000次API呼叫,自架Ornith 1.0 35B在3個月內就能回本(假設你已經有高階顯卡)
  • 如果只是偶爾使用,API方案更划算

誰應該使用Ornith 1.0 35B?

✅ 推薦給

  • 隱私敏感企業:不能把程式碼傳到雲端的金融、醫療、法律行業
  • 開源愛好者:喜歡自架模型、客製化調整的開發者
  • 預算有限的開發者:已經有RTX 4090或Mac Studio,想省API費用
  • 離線環境工作者:沒有網路連線但需要AI輔助

❌ 不推薦給

  • 追求速度的開發者:API方案快10倍以上
  • 新手使用者:安裝和設定需要一定技術背景
  • 需要中文深度支援的使用者:Ornith的中文能力不如Qwen或DeepSeek

延伸閱讀

最終評價:開源Agent的新標竿

總評分:8.2/10

Ornith 1.0 35B是目前開源模型中Agent能力最接近閉源模型的選擇之一。它在程式碼生成、工具調用、多步驟任務執行上表現出色,而且完全免費、可本地部署。

但它的硬體門檻高速度慢推理鏈不穩定等缺點,讓它還無法完全取代DeepSeek V4 Pro或Claude Sonnet 5。如果你是專業開發者,追求效率和品質,API方案仍是首選。

不過,如果你已經有高階顯卡,或者非常在意資料隱私,Ornith 1.0 35B絕對值得一試——它可能是2026年開源AI領域的最大驚喜之一。

一句話總結: 開源Agent的新霸主?35B自己寫Code,但你需要先有張好顯卡。