本地跑Gemma 4｜Vibe Coder必備

Cursor太貴？Claude太慢？｜本地AI才是王道

最近Vibe Coding風潮席捲開發圈，但很多人卡在一個痛點：雲端AI太貴了。Cursor Pro月費20美金、Claude Pro 20美金、GitHub Copilot也要10美金——加起來一個月超過1500台幣，而且還有限速、網路延遲、資料外洩的風險。

這時候，本地AI模型就成了救星。尤其是Google開源的Gemma 4系列，尤其是12B參數的Coder版本，效能直逼GPT-3.5，但完全免費、離線可用、資料不外洩。

這篇評測，我們會手把手教你：如何在Mac/PC上跑Gemma 4 Coder GGUF版，實測它寫Python、React、Shell Script的能力，並跟Cursor、Claude做對比。

Gemma 4 Coder GGUF｜是什麼？

模型背景

Gemma 4是Google基於Gemini技術開源的輕量級模型系列。其中Gemma-4-12B-coder是專為程式碼生成設計的版本，支援Python、JavaScript、TypeScript、C++、Rust等主流語言。

而GGUF是llama.cpp團隊開發的模型格式，專門優化本地推理效率——比傳統的PyTorch模型快3-5倍，記憶體佔用更低，還能用CPU跑。

為什麼選GGUF版？

  1. 省記憶體：12B原始模型要24GB VRAM，GGUF量化後只要8-12GB（4-bit量化）
  2. CPU也能跑：沒有顯卡也能用，只是慢一點
  3. 開源免費：無需API金鑰、無需註冊、無限制次數
  4. 隱私安全：所有資料都在本地，不怕被上傳

誰需要這個？

  • Vibe Coder新手：不想花月費，想先試試AI輔助寫程式
  • 隱私敏感開發者：公司程式碼不能上傳到雲端
  • 離線工作者：飛機上、咖啡廳沒網路也能寫
  • 預算有限學生：免費方案，效能不差

完整安裝教學｜Mac/PC通用

方法一：用Ollama（最簡單，推薦新手）

Ollama是目前最流行的本地模型管理器，一鍵安裝、一鍵下載。

步驟：

  1. 到ollama.com下載桌面版（支援macOS、Windows、Linux）
  2. 安裝後打開終端機，輸入： 
    ollama pull gemma4:12b-coder-q4_K_M
    等待下載完成（約7-8GB）
  3. 直接對話： 
    ollama run gemma4:12b-coder-q4_K_M
  4. 也可以用Ollama的桌面App或VS Code擴充（Continue.dev）使用

優點： 一鍵搞定、有圖形介面、支援API整合
缺點： 模型選擇較少（只能下載官方提供的量化版）

方法二：用llama.cpp（進階，效能最佳）

llama.cpp是底層推理引擎，適合想自訂參數的用戶。

步驟：

  1. 從GitHub下載llama.cpp最新版： 
    git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp
make
  2. 下載GGUF模型檔（從HuggingFace）： 
    wget https://huggingface.co/yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF/resolve/main/gemma-4-12b-coder-q4_k_m.gguf
  3. 執行推理： 
    ./llama-cli -m gemma-4-12b-coder-q4_k_m.gguf -p "Write a Python function to sort a list" -n 512

優點： 支援更多量化選項、可調整GPU層數、批次處理
缺點： 需要編譯、指令較複雜

硬體需求對比

模型量化記憶體需求建議硬體速度（token/s）
Q4_K_M (4-bit)8-10GB RAMMac M1 16GB / PC 16GB+RTX 306015-25 tokens/s
Q5_K_M (5-bit)10-12GB RAMMac M2 24GB / PC 32GB+RTX 407010-18 tokens/s
Q8_0 (8-bit)16-18GB RAMMac M3 32GB / PC 64GB+RTX 40908-12 tokens/s
F16 (原始)24GB+ VRAM僅限高階GPU5-8 tokens/s

實測數據： 在MacBook Pro M1 Pro 16GB上，用Q4_K_M量化版，生成100行Python程式碼約需8秒，速度可接受。

實戰評測｜寫程式真的夠用嗎？

我們設計了三個測試場景，跟Cursor（GPT-4o）、Claude Sonnet做對比。

測試一：Python資料處理

提示詞： 「寫一個Python函式，從CSV讀取數據，計算每月的平均銷售額，並輸出成圖表」

Gemma 4 Coder 表現：

  • 生成時間：12秒
  • 程式碼行數：45行
  • 正確率：首次執行即成功（使用pandas + matplotlib）
  • 缺點：註解太少，變數命名略簡略

對比： Cursor生成時間2秒，但程式碼結構幾乎一樣。Gemma 4的輸出需要手動加註解，但邏輯完全正確。

測試二：React元件

提示詞： 「建立一個React元件，顯示待辦事項列表，支援新增、刪除、標記完成」

Gemma 4 Coder 表現：

  • 生成時間：18秒
  • 程式碼行數：85行
  • 正確率：JSX語法正確，但缺少useState的import（需手動補上）
  • 缺點：沒有包含CSS樣式，輸出較陽春

對比： Claude Sonnet會自動加Tailwind樣式，但Gemma 4的邏輯更簡潔，適合需要客製化的開發者。

測試三：Shell Script自動化

提示詞： 「寫一個bash腳本，自動備份指定目錄到Google Drive，保留最近7天的備份」

Gemma 4 Coder 表現：

  • 生成時間：8秒
  • 程式碼行數：30行
  • 正確率：腳本可直接執行，包含錯誤處理
  • 優點：Shell script的表現意外地好，比Python/React更穩定

對比： 所有模型在這題表現都很接近，但Gemma 4的輸出最簡潔。

總體評分（滿分5分）

項目Gemma 4 CoderCursor (GPT-4o)Claude Sonnet
Python4.04.54.5
React3.54.54.0
Shell4.54.04.0
速度4.55.03.5
隱私5.02.02.0
成本5.03.03.0

優缺點分析｜值得花時間設定嗎？

優點

  1. 完全免費：零成本，適合長期使用
  2. 資料不外洩：敏感程式碼留在本地
  3. 無限制使用：沒有API限速、沒有每日配額
  4. 速度穩定：不依賴網路，不會突然變慢
  5. 開源社群支援：HuggingFace上已有數千個衍生版本

缺點

  1. 設定門檻較高：對非技術用戶不友善
  2. 效能有限：12B參數無法跟GPT-4o或Claude 3.5比
  3. 程式碼品質中等：複雜邏輯容易出錯，需要手動除錯
  4. 記憶體需求不低：8GB RAM只能跑最小量化版
  5. 缺乏上下文理解：無法像雲端模型那樣記住整個專案結構

適合誰？

  • ✔️ 預算有限的獨立開發者：省下月費，自己除錯
  • ✔️ 注重隱私的企業開發者：程式碼不離開電腦
  • ✔️ Vibe Coding新手：先免費試試，再決定是否升級
  • ❌ 專業團隊：需要高品質程式碼、快速迭代，建議用Cursor或Claude
  • ❌ 非技術用戶：只想點幾下就完成，不適合本地部署

價格對比｜省多少？

方案月費優點缺點
Gemma 4 本地免費無限使用、隱私需設定、效能較低
Cursor Pro$20 USD快速、整合IDE有限速、資料上雲端
Claude Pro$20 USD程式碼品質高有限速、網路延遲
GitHub Copilot$10 USD整合GitHub功能較陽春
總計省下$50 USD/月一年省$600 USD約19,000台幣

延伸閱讀

結論｜Vibe Coder的免費救星？

Gemma 4 Coder GGUF版不是萬能藥，但它提供了一個免費、隱私、可離線的AI輔助程式設計方案。如果你的需求是：

  • 寫Python腳本或Shell Script
  • 學習程式設計，不想花錢
  • 處理敏感程式碼不能上雲端

那它絕對值得花30分鐘設定。

但如果你需要：

  • 複雜的React/Next.js專案
  • 快速迭代、高品質程式碼
  • 與團隊協作、版本控制整合

那還是建議用Cursor或Claude——每個月20美金，換來的是時間和品質。

一句話總結： 本地AI是Vibe Coding的「窮人版」，但窮人版不等於不能用——它只是需要你多付出一點耐心，換來完全的自由。

下一步行動

  1. 立即下載Ollama：5分鐘內就能開始用
  2. 試試Gemma 4 Coder：寫一個你平常的程式任務
  3. 比較看看：同時開Cursor，看哪個輸出更符合需求
  4. 分享心得：到MobDome社團告訴我們你的使用體驗

畢竟，最好的工具不是最貴的，而是最適合你的。