你還在把所有問題都丟給 ChatGPT，然後等它慢慢回應嗎？老實說，很多人不知道，其實你手上這台電腦，早就夠格跑一個超強的 AI 模型了。

Google 最近開源了 Gemma 4 系列模型，特別是那個 12B 參數的版本，效能直接追平甚至超越某些需要付費的雲端服務。更棒的是 — 它完全免費，而且可以在你的本機電腦上跑。

這篇教學就是要帶你一步一步把 Gemma 4 裝進你的電腦。不需要雲端訂閱、不用擔心隱私外洩、更不用怕網路斷線。準備好了嗎？我們開始吧。

為什麼你該自己跑 AI？

你可能會想：「我用 ChatGPT 用得好好的，為什麼要搞這麼麻煩？」

好問題。讓我給你三個無法拒絕的理由。

第一，隱私。 每次你把問題貼到 ChatGPT，那些資料就會送到 OpenAI 的伺服器。如果你處理的是公司機密、客戶資料、或是個人隱私，你真的放心嗎？在自己電腦上跑模型，所有資料都在本地處理，連 Google 都看不到。

第二，速度。 雲端 AI 的回應速度取決於網路品質。尖峰時段，ChatGPT 常常要等十幾秒才開始回覆。但本機模型？只要你按 Enter，它幾乎是瞬間開始生成。我實測過，Gemma 4 12B 在 M2 MacBook Air 上，每秒可以生成 30-40 個 token，比大多數雲端服務還快。

第三，不用排隊。 免費版的 ChatGPT 有使用次數限制，GPT-4 更是每三小時只能問幾十次。Gemma 4 完全沒有限制，你想問一百題、一千題，電腦不關機就隨你問。

第一步：選擇你的工具

要讓 Gemma 4 在你的電腦上跑，你需要一個「模型執行環境」。目前最主流也最簡單的兩個選擇是 Ollama 和 LM Studio。

Ollama — 命令列愛好者的首選

Ollama 是一個輕量級的開源工具，專為在本地運行 LLM 而設計。它支援 macOS、Linux 和 Windows。

安裝步驟：

  1. 前往 ollama.com 下載對應你作業系統的安裝檔。
  2. 安裝完成後，打開終端機（Terminal）。
  3. 輸入以下指令來下載並執行 Gemma 4 12B 模型：
ollama run gemma4:12b

第一次執行時，Ollama 會自動下載約 7GB 的模型檔案。下載完成後，你就會看到一個對話提示，可以直接開始問問題了。

小技巧： 如果你的電腦記憶體不到 16GB，可以改用更輕量的版本：

ollama run gemma4:2b

這個 2B 參數版本只有約 1.5GB，跑起來非常流暢，效能也不差。

LM Studio — 圖形化介面，新手友善

如果你不習慣打指令，LM Studio 提供了一個漂亮的圖形介面，操作起來就像使用 ChatGPT 網頁版一樣直覺。

安裝步驟：

  1. 前往 lmstudio.ai 下載並安裝。
  2. 開啟 LM Studio，在搜尋欄輸入「gemma 4」。
  3. 你會看到多個版本，選擇「google/gemma-4-12b-it-GGUF」。
  4. 點擊下載，等待完成。
  5. 下載完成後，點擊「Load Model」載入模型。
  6. 在右側的對話框開始聊天。

LM Studio 的好處是它會自動幫你設定最佳的參數，你幾乎不需要手動調整。

第二步：設定模型參數

不管你用哪個工具，了解幾個關鍵參數可以大幅提升使用體驗。

Temperature（溫度） — 控制回答的創造力。數值越低（接近 0），回答越確定、越保守；數值越高（接近 2），回答越有創意但也可能偏離主題。一般用途建議設在 0.7 左右。

Context Length（上下文長度） — 模型能記住多少對話歷史。Gemma 4 支援最高 32K tokens，大約相當於 2 萬多個中文字。如果你要處理長文件或進行複雜對話，建議設為 8192 或 16384。

Top P — 另一個控制多樣性的參數。預設 0.9 通常就很好用。

在 Ollama 中，你可以這樣設定參數：

ollama run gemma4:12b --temperature 0.7 --num-ctx 8192

在 LM Studio 中，這些選項都在右側面板可以直接調整。

第三步：實際應用範例

現在模型跑起來了，我們來看看它能做什麼。

情境一：寫一封正式商務郵件

你的輸入：

請幫我寫一封給客戶的郵件，通知他們我們的產品價格將於下個月調漲 15%，但同時提供一個早鳥優惠方案，如果他們在本月底前續約，可以鎖定原價。

Gemma 4 回應：

主旨：關於產品價格調整與早鳥續約優惠通知

親愛的客戶您好，

感謝您長期以來對我們產品的支持。為了持續提供更高品質的服務與功能升級，我們將於 2026 年 7 月 1 日起調整產品價格，漲幅約為 15%。

為感謝您的長期支持，我們特別提供早鳥續約優惠：若您於 6 月 30 日前完成續約，將可鎖定現行價格，不受此次調漲影響。

如您有任何疑問，歡迎隨時與我們聯繫。

敬祝商祺， [您的姓名]

你看看，這封郵件的語氣、結構、甚至排版都相當專業，完全可以直接使用。

情境二：分析一段程式碼

你的輸入：

幫我解釋這段 Python 程式在做什麼，並指出可能的效能問題：

def find_duplicates(items):
    duplicates = []
    for i in range(len(items)):
        for j in range(i+1, len(items)):
            if items[i] == items[j] and items[i] not in duplicates:
                duplicates.append(items[i])
    return duplicates

Gemma 4 回應：

這段程式使用雙層迴圈來找出列表中的重複元素，時間複雜度為 O(n²)。當列表長度為 10,000 時，需要執行約 5,000 萬次比較，效能極差。

建議改用集合（set）來優化：

def find_duplicates(items):
    seen = set()
    duplicates = set()
    for item in items:
        if item in seen:
            duplicates.add(item)
        else:
            seen.add(item)
    return list(duplicates)

這個版本的時間複雜度為 O(n)，效能提升數千倍。

這就是為什麼我建議開發者一定要試試本機模型 — 你可以放心地把程式碼貼進去分析，不用擔心商業機密外洩。

進階技巧：自訂系統提示

想要讓 Gemma 4 更符合你的使用習慣？試試自訂系統提示（System Prompt）。

在 Ollama 中，你可以建立一個 Modelfile：

FROM gemma4:12b

SYSTEM "你是一位專業的繁體中文翻譯與寫作助手。請使用台灣常用的繁體中文用語，例如「程式」而非「程序」、「滑鼠」而非「鼠標」。回覆時保持專業但友善的語氣。"

然後執行：

ollama create my-gemma4 -f Modelfile
ollama run my-gemma4

這樣你就有一個專門為繁體中文使用者優化的版本了。

延伸閱讀

常見問題

Q: 我的電腦規格要多少才跑得動？ A: Gemma 4 12B 建議至少 16GB 記憶體，8GB 也能跑但速度較慢。如果你只有 8GB，建議使用 2B 版本。Mac 用戶只要有 Apple Silicon（M1 以上）搭配 8GB 記憶體，就能流暢運行 2B 版本。

Q: 模型檔案多大？下載會不會很久？ A: Gemma 4 12B 的 GGUF 量化版本約 7GB，2B 版本約 1.5GB。以台灣常見的 100M 光纖來說，12B 版本大約 10-15 分鐘下載完畢。

Q: 離線真的可以用嗎？ A: 完全沒問題。模型下載完成後，不需要任何網路連線。你可以在飛機上、捷運站、甚至山頂上使用。

Q: 繁體中文支援好嗎？ A: Gemma 4 的繁體中文能力相當不錯，但預設模型更偏向簡體中文。建議透過自訂系統提示來強制使用繁體中文用語，效果會更好。

Q: 跟 ChatGPT 免費版比起來，哪個比較強？ A: 在一般問答和程式碼撰寫方面，Gemma 4 12B 的表現已經超越 ChatGPT 3.5，接近 GPT-4 的某些面向。但在創意寫作和複雜推理上，GPT-4 仍略勝一籌。不過 Gemma 4 的優點是完全免費且離線可用。

現在輪到你了。打開電腦，花 15 分鐘下載 Gemma 4，你會發現 — 原來最強的 AI 助手，一直就在你手邊。不用排隊、不用付費、不用擔心隱私。試過之後，你可能就回不去雲端服務了。

有什麼安裝上的問題，歡迎留言討論。