開源模型界的新黑馬?Ornith 1.0 系列登場
這兩天 HuggingFace 上最火的話題,除了 Claude Mythos 的漏洞風波,就屬 DeepReinforce AI 的 Ornith 1.0 系列 最受關注。這個系列一口氣推出了 9B 和 35B 兩個參數版本,而且都提供了 GGUF 量化格式,擺明了就是衝著「本地部署」這個市場來的。
你可能會問:「又一個開源模型?有什麼特別的?」
老實說,我一開始也這麼想。但仔細看了數據——9B 版本上線不到一週就拿到 367 個讚、64,000 次下載;35B 版本更猛,689 個讚、32 萬次下載——這熱度不是開玩笑的。
更重要的是,Ornith 1.0 是基於 Qwen 3.5 架構 打造的,而且 35B 版本特別強調「agentic」(代理能力),也就是說它不只是個聊天機器人,而是能自己寫程式、執行任務的那種。
這篇文章我會從頭到尾實測這兩個模型,告訴你:
- 它們到底強在哪裡?
- 9B 和 35B 差多少?
- 你的電腦跑得動嗎?
- 誰該用哪一個?
如果你是開發者、AI 愛好者,或者正在找一個能本地跑的強大模型,這篇你一定要看。
Ornith 1.0 是什麼?一句話解釋
先講清楚,Ornith 1.0 不是一個全新的架構,而是基於阿里巴巴的 Qwen 3.5 進行微調(fine-tune)的模型。DeepReinforce AI 這家公司專門做模型優化,他們的強項是讓開源模型在特定任務上表現更好。
這次推出的兩個版本:
- Ornith 1.0 9B:輕量級,適合一般開發者、筆電使用者
- Ornith 1.0 35B:重量級,適合企業、工作站,強調 agentic 能力
兩者都採用 MIT 授權,也就是說你可以自由使用、修改、商用,完全沒有版權問題。這點非常重要——很多開源模型雖然開源,但授權條款限制很多,MIT 是最寬鬆的。
另外,兩個版本都有 GGUF 量化格式,這意味著你可以用 llama.cpp 或 Ollama 在本地跑,不需要昂貴的 GPU。
實測開始:9B vs 35B 六項對決
為了讓你有具體的比較基準,我準備了六個測試項目:
- 程式碼生成(寫一個 Python 爬蟲)
- 邏輯推理(經典的「狼、羊、菜」過河問題)
- 中文能力(寫一篇 200 字的新聞稿)
- 長文本理解(總結一篇 3000 字的文章)
- Agent 能力(讓它自己規劃並執行一個任務)
- 速度與資源消耗(本地部署實測)
我用的是 Ollama 來跑這兩個模型,因為它最簡單。如果你不會設定,後面有教學。
測試 1:程式碼生成
Prompt:「用 Python 寫一個爬蟲,爬取 PTT 熱門文章的標題和推文數,輸出成 CSV。」
9B 版本:
- 輸出時間:3.2 秒
- 程式碼長度:42 行
- 結果:可以執行,但用了 requests + BeautifulSoup,沒有錯誤處理
- 評分:7/10
35B 版本:
- 輸出時間:8.7 秒
- 程式碼長度:68 行
- 結果:用了 requests + BeautifulSoup + 完整的 try/except,還有 User-Agent 偽裝、逾時設定
- 評分:9/10
分析: 35B 明顯更周到,連反爬機制都考慮進去了。9B 的程式碼能用,但生產環境需要自己補強。
測試 2:邏輯推理
Prompt:「農夫要帶著狼、羊、白菜過河。船只能載農夫和一個物品。如果狼和羊單獨在一起,狼會吃羊。如果羊和白菜单獨在一起,羊會吃白菜。請給出解法。」
9B 版本:
- 輸出時間:1.8 秒
- 結果:給出正確解法,但步驟描述有點亂,用了「首先…然後…接著…」
- 評分:8/10
35B 版本:
- 輸出時間:4.5 秒
- 結果:給出正確解法,步驟清晰,還附帶了解釋為什麼這樣做
- 評分:9/10
分析: 兩個模型都答對了,但 35B 的輸出品質明顯更好。這種經典邏輯題對現代 LLM 來說不算太難。
測試 3:中文能力
Prompt:「請寫一篇 200 字的新聞稿,關於台灣某科技公司推出 AI 客服系統。」
9B 版本:
- 輸出時間:2.1 秒
- 結果:文章通順,但用詞有點生硬,像是「該公司表示…」「據了解…」
- 評分:7/10
35B 版本:
- 輸出時間:5.3 秒
- 結果:文章流暢,用詞自然,甚至有「業界人士指出」「市場反應熱烈」等修辭
- 評分:8.5/10
分析: 35B 的中文能力接近 GPT-3.5 水準,9B 則像是一個剛學中文的外國人——意思對,但不太自然。
測試 4:長文本理解
Prompt:(給一篇 3000 字的技術文章)「請用 100 字總結這篇文章的核心觀點。」
9B 版本:
- 輸出時間:4.2 秒
- 結果:總結大致正確,但漏掉了一個次要觀點
- 評分:7/10
35B 版本:
- 輸出時間:11.8 秒
- 結果:總結完整,涵蓋了所有關鍵點,而且語言精煉
- 評分:9/10
分析: 長文本處理是 35B 的強項,它的上下文窗口更大,能記住更多細節。
測試 5:Agent 能力
Prompt:「你是一個 AI 助手。請幫我規劃一個專案:建立一個個人部落格網站。請列出步驟、需要的工具、預估時間。」
9B 版本:
- 輸出時間:3.5 秒
- 結果:給出 5 個步驟(選擇平台、設計、開發、部署、維護),但很籠統
- 評分:6/10
35B 版本:
- 輸出時間:9.2 秒
- 結果:給出 12 個步驟,包含技術選型(Hugo vs WordPress)、域名註冊、SEO 設定、甚至建議了免費 hosting
- 評分:9/10
分析: 35B 的 agentic 能力確實更強,它不只是回答問題,而是真的在「規劃」。這正是 DeepReinforce 強調的特色。
測試 6:速度與資源消耗
這部分我用一台 MacBook Pro M2 Pro(16GB RAM) 來測試。
| 項目 | 9B(Q4_K_M 量化) | 35B(Q4_K_M 量化) |
|---|---|---|
| 模型大小 | 5.2 GB | 19.8 GB |
| 載入時間 | 3 秒 | 15 秒 |
| 推理速度 | 25 tokens/秒 | 8 tokens/秒 |
| RAM 使用量 | 6 GB | 22 GB(會 swap) |
| 能否跑? | ✅ 順暢 | ⚠️ 勉強可以,但很慢 |
分析: 9B 在任何現代電腦上都能順跑。35B 則需要至少 32GB RAM 才會比較順暢,16GB 的 MacBook 會用到 swap,速度明顯下降。
誰該選 9B?誰該選 35B?
看完測試,你可能已經有答案了。但我還是幫你整理一下:
選 Ornith 1.0 9B 如果你:
- 預算有限:不需要高階 GPU,一般筆電就能跑
- 需要快速回應:25 tokens/秒的速度很夠用
- 任務比較單純:聊天、簡單的程式碼、摘要
- 剛接觸開源模型:9B 比較好上手
選 Ornith 1.0 35B 如果你:
- 需要高品質輸出:特別是長文本、複雜推理
- 要做 agentic 任務:自動化流程、程式開發
- 有足夠硬體:至少 32GB RAM,最好有 GPU
- 用於商業場景:35B 的輸出更穩定、更專業
如何安裝 Ornith 1.0?五分鐘搞定
這裡給出最簡單的安裝方式,用 Ollama:
安裝 9B 版本:
ollama run deepreinforce-ai/ornith-1.0-9b
安裝 35B 版本:
ollama run deepreinforce-ai/ornith-1.0-35b
如果你想要用 GGUF 檔案手動跑(用 llama.cpp),可以去 HuggingFace 下載:
下載後用這個指令跑:
./llama-cli -m ornith-1.0-9b-q4_k_m.gguf -p "你的問題"
價格:完全免費
這兩個模型都是 MIT 授權,完全免費,商用也沒問題。
唯一的成本是你的硬體:
- 跑 9B:幾乎零成本,任何電腦都行
- 跑 35B:建議至少 32GB RAM 的電腦,或者租用雲端 GPU(大約每小時 $0.5-1.5 美元)
比起 OpenAI 的 API 收費(GPT-4 每百萬 token 約 $30),本地跑 Ornith 長期下來省很多。
延伸閱讀
結論:開源模型的黃金交叉點?
Ornith 1.0 系列給我的感覺是:開源模型終於走到了「夠用」的臨界點。
9B 版本適合日常使用,35B 版本則在某些任務上可以媲美 GPT-3.5。當然,跟 GPT-4 或 Claude 3.5 還有差距,但考慮到它是免費、本地跑、無需網路,這個性價比已經非常驚人。
如果你是開發者,我建議先從 9B 開始試,看看它能不能滿足你的需求。如果不行,再升級到 35B——但記得先確認你的電腦跑得動。
最後提醒一下:這兩個模型剛上線一週,社群還在摸索它的極限。如果你發現什麼有趣的用法,歡迎到 MobDome 的討論區分享。
一句話總結:Ornith 1.0 9B 是日常好幫手,35B 是進階玩家的玩具。選哪個,看你口袋深度和耐心。