你還在每個月付費給 Copilot 或 ChatGPT 來寫程式嗎?或是每次寫點小腳本都要打開網路瀏覽器,把程式碼貼來貼去?其實,Google 最新開源的 Gemma 4 Coder 模型,已經可以在你「自己的電腦」上免費跑了!

這篇文章要教你如何用最簡單的步驟,把這個專門為寫程式設計的 AI 模型安裝到你的電腦裡。你不需要花大錢買雲端服務,也不用擔心程式碼被傳到別人的伺服器。而且,整個過程真的只要五分鐘。

我們會從頭開始:下載模型、安裝執行環境、到實際讓它幫你寫程式。你會發現,原來在自己電腦上跑 AI 寫程式助手,比你想像中簡單太多了。

為什麼你該試試本地跑 Gemma 4 Coder?

你可能會問:「我直接用 ChatGPT 或 GitHub Copilot 不就好了?為什麼要這麼麻煩在自己電腦上跑?」

答案是:隱私、速度和費用

想像一下,你正在開發一個公司內部的專案,裡面有客戶資料或商業邏輯。你把這段程式碼貼到 ChatGPT 上請它幫忙優化——這等於是把公司機密送給別人看。很多公司現在都禁止員工使用外部 AI 服務處理敏感程式碼。

而 Gemma 4 Coder 是 Google 開源的模型,你可以完全離線使用,所有運算都在你的電腦上完成。程式碼永遠不會離開你的硬碟。

再來是速度。當你寫程式卡關時,一秒鐘都不想等。本地模型雖然沒有雲端那種超大算力,但對於常見的程式碼補全、解釋和除錯,回應速度往往比透過網路更快,因為少了上傳下載的延遲。

最後是費用。它是完全免費的。你只需要一台還可以的電腦(後面會告訴你最低要求),不需要每月訂閱任何服務。

第一步:下載 Gemma 4 Coder 模型

首先,我們要取得模型檔案。目前最熱門的版本是 yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF,這個版本在 HuggingFace 上已經有超過 26 萬次下載,而且它已經被量化成 GGUF 格式,對一般電腦非常友善。

什麼是 GGUF?簡單來說,它是一種讓模型檔案變小、跑得更快的壓縮格式。原本 12B 參數的模型需要約 24GB 的顯示卡記憶體,但經過量化後,你只需要 8GB 左右的記憶體就能跑了。

要下載這個模型,有兩個方法:

方法一:直接從 HuggingFace 網頁下載

  1. 打開瀏覽器,前往 huggingface.co/yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF
  2. 在頁面中,找到「Files and versions」標籤
  3. 你會看到好幾個 .gguf 檔案,檔名不同的地方在於量化等級:Q4_K_MQ5_K_MQ8_0 等等
  4. 如果你的顯示卡記憶體在 6GB 到 8GB 之間,選擇 Q4_K_M 版本(品質與效能的平衡點)
  5. 如果記憶體超過 12GB,可以試試 Q5_K_MQ8_0,品質更好
  6. 點擊檔名,然後按「Download」按鈕

下載完成後,你會得到一個約 7GB 到 9GB 的檔案。把它放在一個你記得的路徑,例如 C:\AI\Models\~/ai-models/

方法二:使用指令下載(推薦) 如果你習慣用終端機,可以用 wgetcurl 來下載,速度通常比瀏覽器快:

# 下載 Q4_K_M 版本(約 7.5GB)
wget https://huggingface.co/yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF/resolve/main/gemma-4-12b-coder-fable5-composer2.5-v1-Q4_K_M.gguf

這個過程大概需要 5 到 15 分鐘,取決於你的網路速度。

第二步:安裝執行環境——Ollama 或 LM Studio?

下載好模型後,你需要一個軟體來「跑」它。目前最受歡迎的選擇有兩個:OllamaLM Studio。我個人推薦初學者先用 LM Studio,因為它有圖形介面,操作直觀。

選項 A:LM Studio(推薦初學者)

  1. 前往 lmstudio.ai 下載並安裝 LM Studio
  2. 安裝完成後,開啟軟體
  3. 點擊左側的「Local Models」按鈕
  4. 然後點擊「Add Model from File」
  5. 選擇你剛才下載的 .gguf 檔案
  6. 載入完成後,你會在模型列表中看到它
  7. 點擊模型右邊的「Load」按鈕
  8. 等待幾秒鐘,當狀態變成「Loaded」時,就代表模型準備好了

現在你可以直接在下方的對話框輸入文字,例如:「寫一個 Python 函式,讀取 CSV 檔案並計算每欄的平均值」。模型會開始生成程式碼,就像使用 ChatGPT 一樣,但完全離線。

選項 B:Ollama(適合進階使用者)

如果你想要更輕量、更快速的體驗,Ollama 是更好的選擇。

  1. 前往 ollama.ai 下載並安裝 Ollama
  2. 安裝完成後,開啟終端機(Windows 用 PowerShell,Mac 用 Terminal)
  3. 輸入以下指令來建立一個自訂模型:
ollama create gemma4-coder -f Modelfile
  1. 但你會需要先建立一個 Modelfile,內容如下:
FROM ./gemma-4-12b-coder-fable5-composer2.5-v1-Q4_K_M.gguf
  1. 然後執行 ollama run gemma4-coder

這樣就可以直接和模型對話了。Ollama 的好處是它會啟動一個 API 伺服器,你可以在 VS Code 或其他編輯器中串接使用。

第三步:實際測試——讓 AI 幫你寫程式

現在模型已經在你的電腦上跑了,讓我們來測試它的實力。我會用幾個實際的場景來驗證,你也可以跟著做。

場景一:解釋一段程式碼

假設你看到一段看不懂的程式碼,可以直接問模型:

請解釋以下這段 Python 程式碼在做什麼:
def merge_sort(arr):
    if len(arr) <= 1:
        return arr
    mid = len(arr) // 2
    left = merge_sort(arr[:mid])
    right = merge_sort(arr[mid:])
    return merge(left, right)

Gemma 4 Coder 會詳細解釋每一行在做什麼,甚至會補充時間複雜度分析。這對學習新語言或理解同事的程式碼非常有幫助。

場景二:幫你寫一個函式

假設你需要一個能將圖片轉成灰階的函式:

用 Python 和 Pillow 函式庫寫一個函式,把輸入的圖片轉成灰階,並儲存為新檔案。記得加入錯誤處理。

模型會生成完整的程式碼,包括 import 語句和錯誤處理區塊。你可以直接複製貼上到你的專案中使用。

場景三:程式碼重構

假設你有一段很醜的程式碼,想要讓它更乾淨:

這段程式碼可以重構成更簡潔的寫法嗎?
items = []
for i in range(10):
    items.append(i * 2)

它會建議你使用列表推導式 items = [i * 2 for i in range(10)],並解釋為什麼這樣更好。

效能調校與進階技巧

如果你發現模型跑得有點慢,或記憶體不夠,可以試試以下幾個技巧:

調整上下文長度:在 LM Studio 中,載入模型時可以設定「Context Length」。預設是 4096,但如果你只是寫小腳本,設成 2048 就能省下不少記憶體。

使用 GPU 加速:如果你有 NVIDIA 顯示卡,LM Studio 會自動偵測並使用 CUDA 加速。如果有 AMD 顯示卡,可以試試在設定中開啟 Vulkan 或 ROCm 支援。一般來說,使用 GPU 會比 CPU 快 5 到 10 倍。

批次處理:如果你要處理大量程式碼,例如幫整個專案補上註解,可以寫一個小腳本批次呼叫 Ollama 的 API。Ollama 預設會在 http://localhost:11434 提供 API,你可以用 curl 或 Python 的 requests 來呼叫:

import requests
import json

response = requests.post('http://localhost:11434/api/generate', 
    json={
        'model': 'gemma4-coder',
        'prompt': '幫這段 code 加上註解: def add(a,b): return a+b',
        'stream': False
    })
print(response.json()['response'])

總結

今天我們學到了如何在自己的電腦上免費運行 Google 最新的 Gemma 4 Coder 模型。從下載 GGUF 格式的模型檔案,到安裝 LM Studio 或 Ollama 這類執行環境,再到實際讓 AI 幫你寫程式、解釋程式碼和重構,整個流程只需要五分鐘。

最大的好處是:你的程式碼永遠不會離開你的電腦,不用擔心隱私問題;速度更快,因為沒有網路延遲;而且完全免費,不需要任何訂閱費。

建議你先從 LM Studio 開始試試,它對初學者最友善。等熟悉了再考慮換成 Ollama,享受更輕量、可程式化的體驗。

別忘了,AI 寫程式的時代已經來了,但你不需要把控制權交給雲端。在自己的電腦上跑一個開源模型,不僅省錢,還能保護你的程式碼隱私。現在就去試試看吧!

延伸閱讀

常見問題

Q: 我的電腦跑得動 Gemma 4 Coder 嗎?需要什麼規格? A: 最基本需求是 8GB 的 RAM(建議 16GB),以及至少 10GB 的硬碟空間。如果你有 NVIDIA 顯示卡(4GB VRAM 以上)會跑得更順。沒有獨立顯示卡也可以用 CPU 跑,但速度會慢一些,適合寫小程式。

Q: 我可以把這個模型用在商業專案嗎? A: 可以。Gemma 4 使用 Google 的 Gemma 授權條款,允許商業使用。但建議你還是看一下 HuggingFace 頁面上的授權說明,確保符合你的使用情境。

Q: 為什麼我覺得它回答得沒有 ChatGPT 好? A: 這是正常的。Gemma 4 Coder 是一個 12B 參數的模型,而 ChatGPT 使用的是數百億參數的模型。但它的優勢在於離線、免費、隱私。對於常見的程式碼任務,它的表現已經非常夠用了。如果你需要更強的模型,可以考慮未來升級到 27B 或更大的版本。

Q: 模型下載到一半中斷了怎麼辦? A: 可以使用支援續傳的下載工具,例如 wget -c(續傳參數)或使用瀏覽器的下載管理員。如果檔案損壞,重新下載並檢查 SHA256 雜湊值是否與 HuggingFace 頁面上的一致。

Q: 我可以同時讓多個程式使用這個 AI 嗎? A: 可以。如果你使用 Ollama,它會啟動一個 API 伺服器,你可以從多個程式(如 VS Code 外掛、終端機、自訂腳本)同時呼叫。LM Studio 也支援 API 模式,可以在設定中開啟。