你還在每個月付費給 Copilot 或 ChatGPT 來寫程式嗎?或是每次寫點小腳本都要打開網路瀏覽器,把程式碼貼來貼去?其實,Google 最新開源的 Gemma 4 Coder 模型,已經可以在你「自己的電腦」上免費跑了!
這篇文章要教你如何用最簡單的步驟,把這個專門為寫程式設計的 AI 模型安裝到你的電腦裡。你不需要花大錢買雲端服務,也不用擔心程式碼被傳到別人的伺服器。而且,整個過程真的只要五分鐘。
我們會從頭開始:下載模型、安裝執行環境、到實際讓它幫你寫程式。你會發現,原來在自己電腦上跑 AI 寫程式助手,比你想像中簡單太多了。
為什麼你該試試本地跑 Gemma 4 Coder?
你可能會問:「我直接用 ChatGPT 或 GitHub Copilot 不就好了?為什麼要這麼麻煩在自己電腦上跑?」
答案是:隱私、速度和費用。
想像一下,你正在開發一個公司內部的專案,裡面有客戶資料或商業邏輯。你把這段程式碼貼到 ChatGPT 上請它幫忙優化——這等於是把公司機密送給別人看。很多公司現在都禁止員工使用外部 AI 服務處理敏感程式碼。
而 Gemma 4 Coder 是 Google 開源的模型,你可以完全離線使用,所有運算都在你的電腦上完成。程式碼永遠不會離開你的硬碟。
再來是速度。當你寫程式卡關時,一秒鐘都不想等。本地模型雖然沒有雲端那種超大算力,但對於常見的程式碼補全、解釋和除錯,回應速度往往比透過網路更快,因為少了上傳下載的延遲。
最後是費用。它是完全免費的。你只需要一台還可以的電腦(後面會告訴你最低要求),不需要每月訂閱任何服務。
第一步:下載 Gemma 4 Coder 模型
首先,我們要取得模型檔案。目前最熱門的版本是 yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF,這個版本在 HuggingFace 上已經有超過 26 萬次下載,而且它已經被量化成 GGUF 格式,對一般電腦非常友善。
什麼是 GGUF?簡單來說,它是一種讓模型檔案變小、跑得更快的壓縮格式。原本 12B 參數的模型需要約 24GB 的顯示卡記憶體,但經過量化後,你只需要 8GB 左右的記憶體就能跑了。
要下載這個模型,有兩個方法:
方法一:直接從 HuggingFace 網頁下載
- 打開瀏覽器,前往
huggingface.co/yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF - 在頁面中,找到「Files and versions」標籤
- 你會看到好幾個
.gguf檔案,檔名不同的地方在於量化等級:Q4_K_M、Q5_K_M、Q8_0等等 - 如果你的顯示卡記憶體在 6GB 到 8GB 之間,選擇
Q4_K_M版本(品質與效能的平衡點) - 如果記憶體超過 12GB,可以試試
Q5_K_M或Q8_0,品質更好 - 點擊檔名,然後按「Download」按鈕
下載完成後,你會得到一個約 7GB 到 9GB 的檔案。把它放在一個你記得的路徑,例如 C:\AI\Models\ 或 ~/ai-models/。
方法二:使用指令下載(推薦)
如果你習慣用終端機,可以用 wget 或 curl 來下載,速度通常比瀏覽器快:
# 下載 Q4_K_M 版本(約 7.5GB)
wget https://huggingface.co/yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF/resolve/main/gemma-4-12b-coder-fable5-composer2.5-v1-Q4_K_M.gguf
這個過程大概需要 5 到 15 分鐘,取決於你的網路速度。
第二步:安裝執行環境——Ollama 或 LM Studio?
下載好模型後,你需要一個軟體來「跑」它。目前最受歡迎的選擇有兩個:Ollama 和 LM Studio。我個人推薦初學者先用 LM Studio,因為它有圖形介面,操作直觀。
選項 A:LM Studio(推薦初學者)
- 前往
lmstudio.ai下載並安裝 LM Studio - 安裝完成後,開啟軟體
- 點擊左側的「Local Models」按鈕
- 然後點擊「Add Model from File」
- 選擇你剛才下載的
.gguf檔案 - 載入完成後,你會在模型列表中看到它
- 點擊模型右邊的「Load」按鈕
- 等待幾秒鐘,當狀態變成「Loaded」時,就代表模型準備好了
現在你可以直接在下方的對話框輸入文字,例如:「寫一個 Python 函式,讀取 CSV 檔案並計算每欄的平均值」。模型會開始生成程式碼,就像使用 ChatGPT 一樣,但完全離線。
選項 B:Ollama(適合進階使用者)
如果你想要更輕量、更快速的體驗,Ollama 是更好的選擇。
- 前往
ollama.ai下載並安裝 Ollama - 安裝完成後,開啟終端機(Windows 用 PowerShell,Mac 用 Terminal)
- 輸入以下指令來建立一個自訂模型:
ollama create gemma4-coder -f Modelfile
- 但你會需要先建立一個
Modelfile,內容如下:
FROM ./gemma-4-12b-coder-fable5-composer2.5-v1-Q4_K_M.gguf
- 然後執行
ollama run gemma4-coder
這樣就可以直接和模型對話了。Ollama 的好處是它會啟動一個 API 伺服器,你可以在 VS Code 或其他編輯器中串接使用。
第三步:實際測試——讓 AI 幫你寫程式
現在模型已經在你的電腦上跑了,讓我們來測試它的實力。我會用幾個實際的場景來驗證,你也可以跟著做。
場景一:解釋一段程式碼
假設你看到一段看不懂的程式碼,可以直接問模型:
請解釋以下這段 Python 程式碼在做什麼:
def merge_sort(arr):
if len(arr) <= 1:
return arr
mid = len(arr) // 2
left = merge_sort(arr[:mid])
right = merge_sort(arr[mid:])
return merge(left, right)
Gemma 4 Coder 會詳細解釋每一行在做什麼,甚至會補充時間複雜度分析。這對學習新語言或理解同事的程式碼非常有幫助。
場景二:幫你寫一個函式
假設你需要一個能將圖片轉成灰階的函式:
用 Python 和 Pillow 函式庫寫一個函式,把輸入的圖片轉成灰階,並儲存為新檔案。記得加入錯誤處理。
模型會生成完整的程式碼,包括 import 語句和錯誤處理區塊。你可以直接複製貼上到你的專案中使用。
場景三:程式碼重構
假設你有一段很醜的程式碼,想要讓它更乾淨:
這段程式碼可以重構成更簡潔的寫法嗎?
items = []
for i in range(10):
items.append(i * 2)
它會建議你使用列表推導式 items = [i * 2 for i in range(10)],並解釋為什麼這樣更好。
效能調校與進階技巧
如果你發現模型跑得有點慢,或記憶體不夠,可以試試以下幾個技巧:
調整上下文長度:在 LM Studio 中,載入模型時可以設定「Context Length」。預設是 4096,但如果你只是寫小腳本,設成 2048 就能省下不少記憶體。
使用 GPU 加速:如果你有 NVIDIA 顯示卡,LM Studio 會自動偵測並使用 CUDA 加速。如果有 AMD 顯示卡,可以試試在設定中開啟 Vulkan 或 ROCm 支援。一般來說,使用 GPU 會比 CPU 快 5 到 10 倍。
批次處理:如果你要處理大量程式碼,例如幫整個專案補上註解,可以寫一個小腳本批次呼叫 Ollama 的 API。Ollama 預設會在 http://localhost:11434 提供 API,你可以用 curl 或 Python 的 requests 來呼叫:
import requests
import json
response = requests.post('http://localhost:11434/api/generate',
json={
'model': 'gemma4-coder',
'prompt': '幫這段 code 加上註解: def add(a,b): return a+b',
'stream': False
})
print(response.json()['response'])
總結
今天我們學到了如何在自己的電腦上免費運行 Google 最新的 Gemma 4 Coder 模型。從下載 GGUF 格式的模型檔案,到安裝 LM Studio 或 Ollama 這類執行環境,再到實際讓 AI 幫你寫程式、解釋程式碼和重構,整個流程只需要五分鐘。
最大的好處是:你的程式碼永遠不會離開你的電腦,不用擔心隱私問題;速度更快,因為沒有網路延遲;而且完全免費,不需要任何訂閱費。
建議你先從 LM Studio 開始試試,它對初學者最友善。等熟悉了再考慮換成 Ollama,享受更輕量、可程式化的體驗。
別忘了,AI 寫程式的時代已經來了,但你不需要把控制權交給雲端。在自己的電腦上跑一個開源模型,不僅省錢,還能保護你的程式碼隱私。現在就去試試看吧!
延伸閱讀
常見問題
Q: 我的電腦跑得動 Gemma 4 Coder 嗎?需要什麼規格? A: 最基本需求是 8GB 的 RAM(建議 16GB),以及至少 10GB 的硬碟空間。如果你有 NVIDIA 顯示卡(4GB VRAM 以上)會跑得更順。沒有獨立顯示卡也可以用 CPU 跑,但速度會慢一些,適合寫小程式。
Q: 我可以把這個模型用在商業專案嗎? A: 可以。Gemma 4 使用 Google 的 Gemma 授權條款,允許商業使用。但建議你還是看一下 HuggingFace 頁面上的授權說明,確保符合你的使用情境。
Q: 為什麼我覺得它回答得沒有 ChatGPT 好? A: 這是正常的。Gemma 4 Coder 是一個 12B 參數的模型,而 ChatGPT 使用的是數百億參數的模型。但它的優勢在於離線、免費、隱私。對於常見的程式碼任務,它的表現已經非常夠用了。如果你需要更強的模型,可以考慮未來升級到 27B 或更大的版本。
Q: 模型下載到一半中斷了怎麼辦?
A: 可以使用支援續傳的下載工具,例如 wget -c(續傳參數)或使用瀏覽器的下載管理員。如果檔案損壞,重新下載並檢查 SHA256 雜湊值是否與 HuggingFace 頁面上的一致。
Q: 我可以同時讓多個程式使用這個 AI 嗎? A: 可以。如果你使用 Ollama,它會啟動一個 API 伺服器,你可以從多個程式(如 VS Code 外掛、終端機、自訂腳本)同時呼叫。LM Studio 也支援 API 模式,可以在設定中開啟。