你是不是也遇過這種情況？想用 AI 寫個報告、整理資料，但每次都要把內容貼到 ChatGPT 或 Gemini 網頁上，心裡總覺得毛毛的。特別是公司文件、客戶名單這類機密資料，傳到雲端伺服器真的安全嗎？

更別說，當你網路不穩、或者在外出差時，突然需要 AI 幫忙，卻發現連不上伺服器，整個工作進度直接卡住。

今天要教你一個超實用的技巧：在你自己電腦上，免費跑 Google 最新開源的 Gemma 4 模型。不需要 GPU 顯卡，不用申請 API 金鑰，更不用每個月付費。你只要按照這五個步驟，就能擁有一個 100% 離線、完全私密的 AI 助手。

為什麼你該學這招？

先說重點：Gemma 4 是 Google 在 2026 年 6 月推出的開源語言模型，有 12B 和 27B 兩種參數規模。你可能會想：「開源模型不是都很笨嗎？」錯。根據 HuggingFace 的評測，Gemma 4 在數學推理、程式碼生成、甚至中文理解能力上，已經逼近 GPT-4o mini 的水準。

更重要的是，它可以在一般筆電上跑。不需要買幾萬塊的顯卡，只要你的電腦有 16GB 以上的記憶體，就能順暢執行。對於香港和台灣的讀者來說，這意味著：

  • 隱私零風險：資料完全不離開你的電腦
  • 免網路運作：飛機上、地鐵裡都能用
  • 零成本：不用買 API 點數，也不用訂閱

我上週在 MacBook Air M2（8GB 記憶體）上測試，跑 Gemma 4 12B 的 4-bit 量化版本，每秒能生成 15 個 token，寫一封 200 字的 email 只需要 3 秒。夠快了吧？

第一步：下載 Ollama — 你的 AI 管家

要讓 Gemma 4 在你的電腦上跑，最簡單的工具就是 Ollama。它就像一個 AI 模型的「應用程式商店」，你只需要點一下，它就會自動下載並設定好模型。

  1. 打開瀏覽器，前往 ollama.com
  2. 點選你電腦系統的版本（Windows、macOS、Linux 都有）
  3. 下載後直接安裝，就像安裝一般軟體一樣

安裝完成後，你會在工具列或選單列看到一個羊駝圖示，這表示 Ollama 已經在背景運作。

小提醒：Windows 使用者安裝後，建議重開機一次，確保 Ollama 的服務正常啟動。

第二步：下載 Gemma 4 模型

現在打開你的終端機（Windows 用 PowerShell，Mac 用 Terminal），輸入以下指令：

ollama pull gemma4:12b

這行指令會讓 Ollama 去下載 Gemma 4 12B 的 4-bit 量化版本（檔案大小約 7GB）。下載時間取決於你的網路速度，一般光纖大概 5-10 分鐘。

如果你記憶體超過 32GB，想試試更強的版本，可以改下載 27B：

ollama pull gemma4:27b

27B 版本需要約 16GB 的記憶體，但回答品質明顯更好，尤其在寫程式和邏輯推理上。

下載完成後，你會看到類似這樣的訊息：

pulling manifest
pulling 3b8f9d3d2f7a... 100%
pulling 7a1c2e4f8d9b... 100%
verifying sha256 digest
success

恭喜！你已經成功下載了 Gemma 4。

第三步：第一次對話

下載完成後，直接在終端機輸入：

ollama run gemma4:12b

你會看到提示符變成 >>>，這表示模型已經載入完畢，可以開始問問題了。

試試看輸入：

用繁體中文寫一封 email 給客戶，通知他下週三的會議改到下午兩點，並附上新的 Zoom 連結。

Gemma 4 會立刻生成一封完整的 email，而且會自動根據你的語氣調整。我測試的結果是，它寫出來的內容幾乎不需要修改。

要離開對話，輸入 /bye 即可。

第四步：用 Python 呼叫 Gemma 4（進階技巧）

如果你會寫一點 Python，可以把 Gemma 4 整合到你的工作流程中。安裝 Ollama 的 Python 套件：

pip install ollama

然後寫一個簡單的腳本：

import ollama

response = ollama.chat(
    model='gemma4:12b',
    messages=[
        {'role': 'user', 'content': '幫我把這段文字翻成英文：今天天氣很好，適合出去玩。'}
    ]
)

print(response['message']['content'])

執行後，你會看到 Gemma 4 直接回傳翻譯結果。這個方法特別適合用來批次處理文件，例如翻譯整份合約、摘要長篇文章。

第五步：調整參數讓回答更精準

Gemma 4 預設的設定已經不錯，但你可以透過調整參數來控制回答的風格。在 ollama run 時加上參數：

ollama run gemma4:12b --temperature 0.3 --top_p 0.9
  • temperature：控制隨機性。0.1 讓回答更確定（適合事實查詢），0.8 讓回答更有創意（適合寫作）
  • top_p：控制詞彙選擇的多樣性。0.9 是平衡值，1.0 會讓回答更多變

如果你覺得 Gemma 4 的回答太囉嗦，可以把 temperature 調低到 0.2，它會只給你最直接的答案。

實戰案例：我怎麼用 Gemma 4 節省時間

上週我接到一個任務，要整理 50 頁的 PDF 報告重點。以前我會花兩小時自己讀完，然後手打摘要。這次我直接用 Python 腳本搭配 Gemma 4：

  1. 用 PyPDF2 讀取 PDF 文字
  2. 每 2000 字為一段，餵給 Gemma 4
  3. 要求它用 100 字以內摘要

整個過程只花了 15 分鐘，而且 Gemma 4 抓到的重點比我預期的還準確。關鍵是，所有資料都在我的電腦上處理，沒有上傳到任何雲端。

常見問題

Q: 我的電腦只有 8GB 記憶體，跑得動嗎？ A: 可以，但建議使用 4-bit 量化版的 Gemma 4 9B（ollama pull gemma4:9b）。8GB 機型跑 12B 會有點喘，但還是能用，只是生成速度會降到每秒 5-8 個 token。

Q: Gemma 4 支援繁體中文嗎？ A: 支援。Gemma 4 的訓練資料包含大量繁體中文，回答品質比 Gemma 2 好很多。不過如果你需要極度道地的台灣用語（例如「機車」、「很雷」），建議在提示詞中明確指定。

Q: 可以同時跑多個模型嗎？ A: 可以，但不建議。Ollama 會把模型載入記憶體，同時跑兩個模型會讓電腦變得很慢。用完一個模型後，用 /bye 退出，再啟動另一個。

Q: Gemma 4 和 ChatGPT 哪個比較強？ A: 在一般問答上，ChatGPT 4o 還是稍強一些，尤其在創意寫作和複雜推理上。但 Gemma 4 的優勢在於離線、免費、隱私。如果你處理的是敏感資料，Gemma 4 是更好的選擇。

Q: 如何更新到最新版的 Gemma 4？ A: 輸入 ollama pull gemma4:12b 即可，Ollama 會自動檢查並下載最新版本。建議每個月更新一次，Google 會不定期釋出改進版。

延伸閱讀

總結：你的隱私 AI 助手，現在就能擁有

今天你學到了：

  • 用 Ollama 在本地端跑 Gemma 4 模型
  • 從下載到第一次對話，只要五分鐘
  • 用 Python 整合到自動化工作流程
  • 調整參數讓回答更符合需求

最大的收穫是：你再也不需要為了用 AI 而犧牲隱私。不管是公司機密、個人日記，還是客戶資料，全部留在你的電腦裡。

現在就去試試看吧！打開終端機，輸入 ollama pull gemma4:12b，五分鐘後你就會擁有一個專屬於你的 AI 助手。如果你遇到任何問題，歡迎在留言區提問，我們一起研究。