一夜爆紅的136萬次下載

昨天打開HuggingFace，一個名字超長的模型衝上熱榜——empero-ai/Qwythos-9B-Claude-Mythos-5-1M-GGUF。一週內獲得1365個讚，下載量高達136萬次。這數字什麼概念？比DeepSeek V4 Pro還狂。

為什麼一個9B參數的模型能這麼火？答案藏在名字裡：Claude Mythos。這個模型據說是基於Qwen 3.5架構，用Claude生成的合成數據微調，目標是讓小模型擁有接近Claude的風格和推理能力。

更關鍵的是，它已經被量化成GGUF格式，代表任何人的筆電都能跑。

今天我們就來實測這個「Claude殺手」，看它到底值不值得你花時間下載。

安裝三步驟：五分鐘搞定

對比那些動輒幾十GB、需要高端顯卡的大模型，Qwythos-9B的安裝過程堪稱「小白友好」。

第一步：下載模型

到HuggingFace搜尋「empero-ai/Qwythos-9B-Claude-Mythos-5-1M-GGUF」，你會看到多個量化版本：

  • Q4_K_M（約5.5GB）：速度和品質的平衡點，推薦
  • Q5_K_M（約6.7GB）：品質更好，但需要多1GB記憶體
  • Q3_K_M（約4.3GB）：速度最快，但品質有明顯下降

我們測試用的是Q4_K_M版本，用以下指令下載（需安裝Git LFS）：

git lfs install
git clone https://huggingface.co/empero-ai/Qwythos-9B-Claude-Mythos-5-1M-GGUF

第二步：安裝llama.cpp

如果你用Mac，最簡單的方式是透過Homebrew：

brew install llama.cpp

Windows用戶可以到llama.cpp的GitHub Releases頁面下載預編譯的二進位檔。

第三步：跑起來

進到模型目錄，執行：

./llama-cli -m Qwythos-9B-Claude-Mythos-5-1M-Q4_K_M.gguf -p "用繁體中文寫一篇關於AI未來的短文，500字以內" -n 500

第一次載入約需10-15秒（取決於你的硬碟速度），之後每次問答幾乎是即時回應。

實測表現：真的像Claude嗎？

速度測試

硬體：M1 MacBook Pro（16GB RAM）

  • 載入時間：約12秒
  • 生成速度：約45 tokens/秒（Q4_K_M量化）
  • 峰值記憶體使用：約7.8GB

對比一下：GPT-4在網頁端的生成速度約為4-5 tokens/秒，Claude Sonnet 4約6-7 tokens/秒。Qwythos-9B在本地跑的速度是雲端模型的7-10倍。

中文能力

這是本地模型最大的痛點。但Qwythos基於Qwen 3.5，後者的中文能力本來就強。

我們測試了幾個場景：

寫作任務：「寫一封正式的商業電子郵件，向客戶道歉延遲交貨」

輸出結果：

尊敬的陳總監：

您好！感謝您一直以來對我們公司的支持與信任。關於訂單#2026-0712的交貨延遲，我們深感抱歉。經內部調查，此次延遲主因是供應鏈上游的原料短缺，目前已協調替代供應商，預計7月10日前完成出貨。

為表歉意，我們將提供10%的訂單折扣。如有任何疑問，請隨時與我聯繫。

順頌商祺 李明

語氣正式得體，沒有出現簡體字或奇怪的用詞。中文能力出乎意料地好。

程式碼任務：「用Python寫一個爬蟲，抓取Yahoo奇摩股市的即時股價」

輸出了一段完整的Python程式碼，使用requests和BeautifulSoup，註解還是繁體中文。雖然實際執行需要調整（Yahoo的HTML結構會變），但邏輯完全正確。

創意任務：「用王家衛的風格寫一段分手對話」

「你知道嗎？有些話說出口的時候，就已經過期了。就像便利商店的飯糰，凌晨三點會打折，但沒有人會買。我看著你的背影，忽然想起我們第一次見面那天，你穿的那件藍色襯衫，現在已經褪色了。其實不是襯衫褪色，是時間把它洗淡了。」

這一段真的有Claude的味道。語氣、意象、節奏都很到位。

推理能力

我們用一個經典邏輯題測試：

「一個房間裡有三盞燈，門外有三個開關，每個開關控制一盞燈。你只能進房間一次，如何確定哪個開關控制哪盞燈？」

Qwythos-9B的回答：

先打開第一個開關，等幾分鐘後關掉。然後打開第二個開關，保持第三個開關關閉。進入房間：亮著的燈由第二個開關控制；熄滅但發熱的燈由第一個開關控制；熄滅且不發熱的燈由第三個開關控制。

完全正確，而且解釋清晰。

優點與限制

優點

  1. 速度無敵：本地45 tokens/秒，比任何雲端模型都快
  2. 隱私安全：資料完全不上雲，適合處理敏感資訊
  3. 免費：一次下載，永久使用，沒有API費用
  4. 中文優秀：基於Qwen 3.5，繁體中文表現超出預期
  5. 硬體門檻低：8GB RAM就能跑Q4量化版

限制

  1. 知識截止：訓練資料截止到什麼時候？模型卡沒有明確說明，估計是2025年底
  2. 上下文長度：只有128K tokens，對比Claude的200K或Gemini的1M，處理長文件會吃力
  3. 創意多樣性：雖然有Claude風格，但多次生成同一主題，輸出模式會重複
  4. 沒有視覺能力：純文字模型，不能分析圖片
  5. 安裝仍有門檻：雖然比多數模型簡單，但對非技術用戶來說，終端機操作還是有點嚇人

定價比較

模型價格速度隱私中文
Qwythos-9B（本地）免費45 tok/s✅完全本地優秀
Claude Sonnet 4$3/百萬token6 tok/s❌上雲優秀
GPT-4o$5/百萬token4 tok/s❌上雲優秀
Gemini 2.5 Pro$2.5/百萬token8 tok/s❌上雲良好
DeepSeek V4$1/百萬token10 tok/s❌上雲優秀

假設你每天需要生成10萬token（約7.5萬字），使用Qwythos-9B一年可以省下：

  • 對比Claude Sonnet 4：$10,950
  • 對比GPT-4o：$18,250
  • 對比DeepSeek V4：$3,650

對於重度使用者，這不是小數目。

誰該用？誰不該用？

推薦使用的人

  • 開發者：需要快速測試程式碼片段，不想等雲端回應
  • 隱私敏感用戶：處理醫療、法律、金融等機密資料
  • 預算有限的創作者：大量寫作、翻譯，不想每月付訂閱費
  • 離線工作者：常搭飛機、身處網路不穩定的環境

不推薦的人

  • 需要最新資訊的人：模型知識有截止日期，無法上網搜尋
  • 需要多模態能力的人：不能分析圖表、圖片、PDF
  • 非技術用戶：雖然安裝簡單，但依然需要指令列操作
  • 需要超長上下文的人：128K對多數人夠用，但處理長篇小說或論文會吃力

延伸閱讀

結論：值得下載嗎？

絕對值得。

Qwythos-9B不是完美的模型，但它做到了很多人認為不可能的事——把Claude等級的體驗搬到你的筆電上。速度、品質、中文能力的組合，在開源模型中是頂尖水準。

如果你已經有llama.cpp環境，下載這個模型只需要5分鐘。如果你還沒用過本地模型，這是一個絕佳的入門選擇。

最後一個建議：不要只看參數大小。9B模型在適當的微調和量化下，可以打敗很多更大的模型。Qwythos-9B就是最好的證明——136萬次下載，不是沒有原因的。