開源界殺出一隻「鳥」?Ornith-1.0-35B 是什麼來頭

最近 HuggingFace 上有一隻「鳥」飛得特別高——deepreinforce-ai/Ornith-1.0-35B-GGUF,一週內獲得 557 個讚好,下載量突破 15 萬次。在開源模型圈,這個熱度只能用「現象級」來形容。

這隻「鳥」不是普通的語言模型。它是基於 Qwen3.5 架構,經過深度微調,專為 Agent(智能代理)任務 打造的模型。簡單說,它不只是跟你聊天,而是能直接幫你寫程式、操作工具、執行多步驟任務。

更狂的是,它只有 35B 參數,卻號稱能媲美 70B 甚至 100B 級別的模型效能。而且它採用 MIT 授權,完全開源,任何人都能免費下載、商用、改寫。

在 Claude Sonnet 5 橫掃全球、API 價格飆漲的當下,這隻「鳥」的出現,讓開發者看到了一條「不用花大錢也能跑 Agent」的出路。

安裝實測:3 分鐘跑起來,但硬體要求不低

我們在 MobDome Lab 實際測試了 Ornith-1.0-35B-GGUF 的安裝流程。以下是你需要知道的:

硬體需求(最低配置)

  • RAM:至少 32GB(推薦 64GB)
  • VRAM:8GB 以上(用 GGUF 量化版,Q4_K_M 約需 20GB 記憶體)
  • 儲存空間:模型檔案約 20-25GB
  • 處理器:支援 AVX2 的 Intel/AMD CPU(有 GPU 更好)

安裝步驟(5 分鐘搞定)

  1. 下載模型:從 HuggingFace 下載 GGUF 量化版(推薦 Q4_K_M 平衡版)
  2. 安裝 llama.cppgit clone https://github.com/ggerganov/llama.cpp,然後 make
  3. 啟動服務./llama-server -m ornith-1.0-35b-q4_k_m.gguf -c 8192 --port 8080
  4. 連接客戶端:用 Open WebUI 或 SillyTavern 連接到 localhost:8080

實測結果:在配備 RTX 4090(24GB VRAM)+ 64GB RAM 的桌機上,Q4_K_M 量化版約能跑 15-20 tokens/秒,足以應付一般對話與 Agent 任務。如果只有 CPU,用 Q2_K 量化版也能跑,但速度會降到 3-5 tokens/秒——還是能用的,只是要等。

安裝難度:⭐⭐(中等偏易) 比起有些開源模型需要編譯 CUDA kernel 或安裝複雜依賴,Ornith 的安裝流程相當親民。只要會用終端機,跟著步驟走,10 分鐘內就能跑起來。

Agent 能力大考驗:寫 Code、搜網、操作 API

測試一:Python 程式碼生成

提示詞:「用 Python 寫一個爬蟲,爬取 PTT 熱門文章標題,輸出成 CSV 檔案。」

Ornith-1.0-35B 表現

  • 第一版程式碼就能執行,包含 requests 和 BeautifulSoup 套件
  • 自動處理了 User-Agent 標頭與編碼問題(中文常見陷阱)
  • 錯誤處理完整,包含連線逾時與例外狀況
  • 評分:9/10(幾乎完美,唯一缺點是沒有加上 sleep 延遲避免被封)

對比:Claude Sonnet 5 表現相近,但 Ornith 的程式碼更「工程師 style」——註解少但邏輯直接。

測試二:多步驟 Agent 任務

提示詞:「幫我查詢今天台北的天氣,然後根據天氣建議穿搭,最後用繁體中文寫一篇 100 字的社群貼文。」

Ornith-1.0-35B 表現

  • 成功調用工具(需預先設定 function calling 格式)
  • 能正確解析 API 回傳的 JSON 資料
  • 天氣轉穿搭建議合理(「29°C 午後雷陣雨,建議帶摺疊傘+穿透氣衣物」)
  • 社群貼文風格自然,接近台灣用語
  • 評分:8/10(Agent 流程順暢,但工具調用速度比 Claude 慢約 2 秒)

測試三:長文本理解與推理

提示詞:「請分析以下 5000 字論文摘要,找出三個主要論點,並用表格比較其優缺點。」

Ornith-1.0-35B 表現

  • 上下文長度 8192 tokens 內表現穩定
  • 能精準提取關鍵資訊,沒有遺漏
  • 表格格式正確,優缺點分析有深度
  • 評分:8.5/10(超過 8K tokens 後開始出現遺忘現象,但這是 35B 模型的共同限制)

強項與弱點:這隻鳥能飛多高?

強項

  1. 成本極低:完全免費,MIT 授權,商用無限制。相比 Claude Sonnet 5 API 每百萬 tokens 收費 $15,Ornith 的邊際成本幾乎為零。
  2. 本地運行:資料不外洩,適合處理敏感資訊的企業用戶。
  3. Agent 能力出色:在同參數量級(35B)中,工具調用與多步驟任務表現屬頂尖水準。
  4. 社群支援活躍:HuggingFace 上有超過 15 萬次下載,GitHub 討論區回覆快速。

弱點

  1. 硬體門檻不低:要跑順需要至少 32GB RAM + 8GB VRAM,不是每台筆電都能跑。
  2. 速度不如雲端 API:本地推理速度約 15-20 tokens/秒,遠不如 Claude 的即時回應。
  3. 中文能力有進步空間:雖然能理解繁體中文,但在台灣用語、在地文化梗的掌握上,仍不及 Claude Sonnet 5。
  4. 長上下文表現受限:超過 8K tokens 後效能明顯下降,不適合處理超長文件。

價格對比:免費 vs 付費,誰更划算?

模型每百萬 tokens 成本硬體成本適合場景
Ornith-1.0-35B (本地)$0(電費除外)一台 $3000 的桌機大量 API 呼叫、敏感資料處理
Claude Sonnet 5 (API)$15 輸入 / $60 輸出高品質對話、複雜推理
GPT-4o (API)$10 輸入 / $30 輸出通用任務、多模態
Qwen3.5-72B (API)$3 輸入 / $12 輸出中文任務、成本敏感

結論:如果你的專案每天需要處理超過 100 萬 tokens,Ornith 的本地部署在三個月內就能回本。但對於偶爾使用的個人用戶,API 服務可能更划算。

誰該用 Ornith-1.0-35B?

✅ 推薦使用

  • 獨立開發者:想打造自己的 AI Agent,又不想被 API 綁架
  • 隱私敏感企業:金融、醫療、法律等行業,資料不能外傳
  • 開源愛好者:喜歡折騰、客製化模型的技術玩家
  • Agent 專案原型開發:先用免費模型驗證概念,再決定是否升級

❌ 不推薦使用

  • 一般消費者:只是偶爾問問題,用 ChatGPT 或 Claude 更方便
  • 需要即時回應的場景:客服、即時翻譯等,本地推理速度不夠快
  • 非技術用戶:安裝與設定需要基本程式知識

延伸閱讀

最終 verdict:這隻鳥值得養嗎?

Ornith-1.0-35B-GGUF 不是神話,但它是目前開源 Agent 模型中最務實的選擇。它沒有 Claude Sonnet 5 的驚豔,也沒有 GPT-4o 的全面,但它在 「夠用」「免費」 之間找到了一個絕佳平衡點。

對於想擺脫 API 依賴、自己掌握 Agent 開發的技術團隊,這隻鳥值得一試。安裝簡單、社群活躍、MIT 授權——這些都是實實在在的優勢。

如果你只是想找一個「免費的 Claude 替代品」,Ornith 可能會讓你失望。但如果你需要一個 能在本地跑、能自由修改、能商用 的 Agent 模型,那 Ornith-1.0-35B 就是目前最接近答案的選擇。

評分:7.5/10

  • Agent 能力:8.5
  • 中文表現:7
  • 安裝易用性:8
  • 成本效益:9
  • 生態支援:7

一句話總結:開源 Agent 的平民英雄,不是最強,但最實惠。