本地跑Gemma 4｜Vibe Coder必備

你有沒有想過，完全離線、不用連上網際網路，就能用上媲美GPT-4等級的AI模型？這不是科幻小說，而是現在就能做到的事。Google開源的最新Gemma 4系列模型，讓一般人的筆電也能跑起強大的語言模型。今天這篇文章，我會帶你一步步在自己的電腦上安裝、執行Gemma 4，從下載工具到實際對話，全程圖解說明。

為什麼你要在本地跑AI？

先說個真實故事。我朋友阿傑是自由接案的程式設計師，他習慣用ChatGPT幫他寫程式碼片段。但有一天，客戶給了一份極機密的金融系統原始碼，要他分析安全性漏洞。阿傑當然不能把這份程式上傳到任何雲端服務——合約裡白紙黑字寫著「不得洩漏程式碼給第三方」。

他當時急得像熱鍋上的螞蟻，直到我教他在自己的MacBook上裝了Gemma 4。完全離線執行，所有資料都不離開他的電腦。他不僅順利完成分析，還發現預算更省——不用再買ChatGPT Plus月費方案。

這不是單一案例。根據HuggingFace最新數據，Gemma 4系列的下載量在過去一週暴增超過22萬次，尤其以量化版本（GGUF格式）最受歡迎。為什麼？因為量化模型讓普通硬體也能跑大模型，記憶體用量大幅降低。

你需要準備什麼？

在開始之前，先確認你的電腦符合基本條件：

  • 作業系統：Windows 10/11、macOS Monterey以上、或任何Linux發行版
  • 處理器：Intel/AMD x86_64 或 Apple Silicon（M1/M2/M3/M4）
  • 記憶體：最低8GB（建議16GB以上，跑12B參數版需要更多）
  • 硬碟空間：至少20GB可用空間

如果你是Mac用戶，恭喜你——Apple Silicon晶片因為統一記憶體架構，跑AI模型特別順暢。我自己的M2 MacBook Air（16GB）就能流暢執行Gemma 4的2B參數版本，回應速度比想像中快。

第一步：安裝Ollama——你的AI管家

想像一下，你要在家裡養一隻AI寵物，總得先準備好籠子和飼料吧？Ollama就是那個「籠子」——它幫你管理模型檔案、啟動服務、提供簡單的對話介面。

在Mac或Linux安裝： 打開終端機（Terminal），貼上這行指令，按Enter：

curl -fsSL https://ollama.com/install.sh | sh

在Windows安裝： 直接去Ollama官網下載安裝程式，雙擊安裝即可。過程就像裝任何一般軟體，下一步下一步就完成。

安裝完成後，在終端機輸入：

ollama --version

如果看到版本號碼（例如 0.6.0），就代表安裝成功。這時候你已經完成最難的部分了。

第二步：下載並執行Gemma 4

Ollama安裝好後，下載模型就像去超商買飲料一樣簡單。打開終端機，輸入以下指令：

ollama run gemma4:2b

這行指令會做三件事：

  1. 自動從網路下載Gemma 4的2B參數版本（約2GB大小）
  2. 載入到記憶體中
  3. 開啟互動式對話模式

你會看到類似這樣的畫面：

pulling manifest 
pulling d1d9b9a3e5e1... 100% ▕████████████████████▏ 2.1 GB
pulling a4e1e8b7c2d3... 100% ▕████████████████████▏ 387 B
pulling config... 100% ▕████████████████████▏ 1.5 KB
>>>

看到「>>>」提示符號，就代表Gemma 4已經準備好回答你的問題了。試著打一句「你好，請用繁體中文自我介紹」，看看它怎麼回應。

小技巧： 如果2B版本對你來說太慢或不夠聰明，可以試試其他版本：

  • ollama run gemma4:8b — 8B參數，更聰明但需要更多記憶體
  • ollama run gemma4:12b — 12B參數，接近頂級表現

我個人建議初學者先從2B開始，感受一下速度，再決定要不要升級。畢竟，快的模型比慢的聰明模型更實用。

第三步：讓AI幫你寫程式——Vibe Coder的實戰

好，現在你已經能跟Gemma 4對話了。但這有什麼用？來，我示範一個Vibe Coder最常用的場景：讓AI幫你寫一支Python爬蟲。

在終端機的 >>> 提示符號後面，輸入：

請用Python寫一個簡單的爬蟲，爬取PTT熱門文章標題，並印出前10篇。使用requests和BeautifulSoup。

Gemma 4會開始思考（你可能會看到它「打字」的過程），然後生成完整的程式碼。例如：

import requests
from bs4 import BeautifulSoup

url = 'https://www.ptt.cc/bbs/hotboards.html'
response = requests.get(url, headers={'User-Agent': 'Mozilla/5.0'})
soup = BeautifulSoup(response.text, 'html.parser')

boards = soup.find_all('div', class_='board-name')
for i, board in enumerate(boards[:10], 1):
    print(f'{i}. {board.text.strip()}')

你可以直接複製這段程式碼，貼到任何Python編輯器執行。當然，實際跑起來可能需要調整，但Gemma 4已經幫你省下80%的寫程式時間。

更重要的是，因為所有程式碼都在你的電腦上產生，沒有任何資料外洩風險。這對處理公司機密、個人隱私資料來說，價值無法計算。

第四步：用API讓其他程式呼叫Gemma 4

Ollama不只是聊天工具，它背後還跑了一個HTTP伺服器。這代表你可以從任何程式語言呼叫Gemma 4，把它整合到你的工作流程中。

預設情況下，Ollama的API伺服器跑在 http://localhost:11434。你可以用curl測試：

curl http://localhost:11434/api/generate -d '{
  "model": "gemma4:2b",
  "prompt": "用繁體中文解釋什麼是Vibe Coding",
  "stream": false
}'

回傳的JSON中，response欄位就是模型的回答。這在開發自訂工具、自動化腳本時特別有用。

例如，你可以寫一支Python腳本，自動幫你摘要每天的新聞信件：

import requests
import json

def summarize_news(text):
    response = requests.post('http://localhost:11434/api/generate', 
        json={
            "model": "gemma4:2b",
            "prompt": f"請用三句話摘要以下內容：{text}",
            "stream": False
        })
    return response.json()['response']

# 使用範例
news = "Google發表Gemma 4開源模型，支援多模態..."
print(summarize_news(news))

效能調校與常見問題

你可能會問：「我的筆電跑得動嗎？」這是最多人擔心的問題。根據我的實際測試：

  • 8GB記憶體：只能跑2B版本，回應速度約每秒5-8個字元
  • 16GB記憶體：可以跑2B或8B版本，8B版約每秒3-5字元
  • 32GB以上：可以挑戰12B版本，速度接近即時對話

如果你發現模型跑得很慢，可以試試以下優化：

  1. 關閉其他應用程式：瀏覽器分頁是記憶體殺手，Chrome開20個分頁就吃掉好幾GB
  2. 使用量化版本：Ollama預設就是量化版，無需額外設定
  3. 調整上下文長度：用 --num-ctx 2048 參數降低記憶體需求

還有一個殺手級應用：把Gemma 4當作離線的翻譯工具。出國旅行時，不需要網路就能即時翻譯菜單、路牌，超實用。

總結：你今天學到了什麼？

讓我們快速回顧這趟本地AI之旅：

  1. 安裝Ollama：用一行指令在你的電腦上建立AI執行環境
  2. 下載並執行Gemma 4：從2B到12B，依你的硬體選擇合適版本
  3. Vibe Coder實戰：讓AI幫你寫程式、分析資料，完全離線安全
  4. API整合：把Gemma 4變成你的個人AI後端，串接到任何程式

現在輪到你了。打開你的終端機，輸入 ollama run gemma4:2b，開始你的本地AI冒險。當你發現自己可以完全不依賴網路、不擔心隱私、不花月費就能使用頂級AI時，那種自由感，絕對值得體驗。

如果你遇到任何問題，別擔心——FAQ區整理了最多人問的狀況，先去看看能不能解決。明天，你也可以像阿傑一樣，自信地對客戶說：「放心，資料不會離開我的電腦。」

延伸閱讀

常見問題

Q: 我的電腦只有8GB記憶體，跑得動嗎？ A: 可以，但建議只跑Gemma 4的2B版本。安裝後如果發現太慢，試著關閉瀏覽器和其他應用程式，釋放更多記憶體。如果還是卡頓，可以加 --num-ctx 1024 參數降低上下文長度。

Q: Ollama下載模型超慢，有辦法加速嗎？ A: 可以試著換成中國鏡像源。在終端機執行 export OLLAMA_HOST=http://localhost:11434 不會影響下載速度。真正的解法是：在Ollama安裝目錄下建立 ~/.ollama/config.json，加入 {"mirror": "https://hf-mirror.com"}。香港用戶也可以考慮用VPN切換到更快的節點。

Q: Gemma 4的中文能力好嗎？跟ChatGPT比如何？ A: Gemma 4的中文能力在開源模型中屬頂尖等級，但與GPT-4相比仍有差距。它的優勢在於完全離線、免費、隱私安全。如果你主要用中文處理一般問答、寫程式、翻譯，Gemma 4已經非常夠用。但需要高度創意寫作或複雜推理時，ChatGPT仍略勝一籌。

Q: 我能在Windows上順利安裝嗎？有什麼要注意？ A: 可以，Windows版本安裝非常簡單。唯一要注意的是：如果你的Windows是ARM版（例如Surface Pro X），目前Ollama支援度較差。一般x86版Windows完全沒問題。安裝完成後，記得以系統管理員身份執行命令提示字元，避免權限問題。

Q: 跑完模型後，怎麼刪除？硬碟空間不夠了。 A: 在終端機輸入 ollama rm gemma4:2b 即可刪除該模型。你也可以用 ollama list 查看所有已下載的模型，再用 ollama rm <模型名稱> 刪除不需要的。要完全清除Ollama，在Mac/Linux執行 rm -rf ~/.ollama，在Windows刪除 %USERPROFILE%\.ollama 資料夾。