你還在把資料傳上雲端？隱私與速度的兩難

每次使用 ChatGPT 或 Claude，你是不是都有點擔心——自己的文件、想法、甚至公司資料，會不會被拿去訓練模型？老實說，這不是你想太多。許多企業和個人用戶，都因為隱私問題而不敢大規模使用 AI。

但你知道嗎？現在你可以在自己的電腦上，直接跑 Google 最新開源的 Gemma 4 模型。不用連網、不用月費、所有資料都留在你的硬碟裡。今天這篇教學，就是要帶你從零開始，在 Windows 或 Mac 上，五分鐘內讓 Gemma 4 在你家電腦上跑起來。

為什麼要跑本地模型？三個你無法拒絕的理由

你可能會想：「我直接用 ChatGPT 不就好了，為什麼要這麼麻煩？」

理由一：隱私無價。 當你把公司財務報表、客戶名單、或私人日記貼進 ChatGPT 時，這些資料就離開了你的電腦。Google、OpenAI 的伺服器上，永遠留下了副本。跑本地模型，你的資料從未離開你的硬碟。

理由二：免費且無上限。 ChatGPT Plus 每月要 20 美元，Claude Pro 也是。但 Gemma 4 完全免費、開源。你想問多少問題就問多少，沒有配額限制。

理由三：速度更快。 雲端 AI 要經過網路傳輸，來回至少 2-5 秒。本地模型的反應時間，取決於你的顯示卡——如果你有 NVIDIA RTX 3060 以上，回答幾乎是即時的。

第一步：你的電腦夠力嗎？硬體需求一次搞懂

在開始之前，我們先確認你的電腦能不能跑 Gemma 4。好消息是，Google 這次推出了多種尺寸的版本，從手機到高階電腦都能用。

最低需求（跑 2B 參數版）：

  • 記憶體：8GB RAM
  • 儲存空間：5GB 可用硬碟
  • 顯示卡：不需要獨立顯卡（用 CPU 也能跑，只是慢一點）

建議配備（跑 12B 參數版）：

  • 記憶體：16GB RAM 以上
  • 顯示卡：NVIDIA GTX 1060 6GB 或更新款
  • 儲存空間：20GB 可用 SSD

追求效能（跑 26B 參數版）：

  • 記憶體：32GB RAM
  • 顯示卡：NVIDIA RTX 3090 或 RTX 4090（24GB VRAM）
  • 儲存空間：40GB 可用 SSD

如果你是 Mac 用戶，Apple Silicon（M1/M2/M3/M4）晶片因為有統一記憶體架構，跑起來效果非常好。M1 16GB 就能順跑 12B 版本。

第二步：安裝 Ollama——最簡單的 AI 模型管理器

Ollama 是目前最受歡迎的本地 AI 運行工具，它把複雜的安裝過程，簡化到只需要一行指令。

Windows 用戶：

  1. 打開瀏覽器，前往 ollama.com
  2. 點擊「Download for Windows」
  3. 下載後雙擊安裝檔，一路按「下一步」
  4. 安裝完成後，你會在系統列看到一個小羊駝圖示

Mac 用戶：

  1. 前往 ollama.com
  2. 點擊「Download for macOS」
  3. 下載 .dmg 檔案，把 Ollama 拖到應用程式資料夾
  4. 打開 Ollama，它會自動在選單列執行

安裝完成後，打開終端機（Windows 叫命令提示字元或 PowerShell，Mac 叫終端機），輸入以下指令測試是否安裝成功：

ollama --version

如果看到版本號碼（例如 0.5.1），就代表安裝成功了！

第三步：下載並執行 Gemma 4——真正關鍵的一步

現在是見證奇蹟的時刻。在終端機中輸入這一行：

ollama run gemma4:2b

這會自動下載 Gemma 4 的 2B 參數版本（約 1.5GB），然後立即啟動對話模式。第一次下載需要一些時間，取決於你的網路速度。

下載完成後，你會看到一個 >>> 提示符號，這表示 AI 已經準備好回答你的問題了！

試著輸入：「用繁體中文簡單解釋什麼是量子糾纏？」

你會發現，即使沒有網路連線，Gemma 4 也流暢地回答了你的問題。而且因為模型在你的電腦上，回應速度非常快。

如果你想用更強的版本，可以輸入：

ollama run gemma4:12b

這個版本約 9GB，能處理更複雜的任務，例如程式碼生成、長文本分析等。

第四步：用 Open WebUI 打造 ChatGPT 般的體驗

命令列雖然強大，但對多數人來說不太直觀。我們可以安裝 Open WebUI，讓本地 AI 擁有類似 ChatGPT 的圖形介面。

安裝步驟：

  1. 先確認你的電腦已安裝 Docker（到 docker.com 下載）
  2. 打開終端機，輸入：
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  1. 等待下載完成（約 2-3 分鐘）
  2. 打開瀏覽器，輸入 http://localhost:3000

你會看到一個漂亮的聊天介面！註冊一個本地帳號後，在設定中選擇「Ollama」作為模型來源，然後選擇 gemma4:2b 或 gemma4:12b。現在你可以像使用 ChatGPT 一樣，用滑鼠點擊就能和 Gemma 4 對話了。

實戰應用：用 Gemma 4 幫你解決真實問題

讓我分享一個實際案例。上週我協助一位香港的 freelance 設計師，他需要快速分析客戶提供的 50 頁 PDF 簡報。

我們用 Gemma 4 12B 版本，搭配 Ollama 的文件上傳功能（透過 Open WebUI），直接把 PDF 拖進對話框。Gemma 4 在 30 秒內就總結出三大重點：

  1. 客戶預算比去年增加 40%
  2. 主要競爭對手採用了 AI 生成素材
  3. 客戶想要「更年輕化」的設計風格

這位設計師說：「以前我要花兩小時讀完整份簡報，現在 AI 幫我摘要，我直接可以開始提案。」

另一個場景：台灣一位高中生用 Gemma 4 2B 版本，在自己的舊筆電上（8GB RAM）跑程式碼輔助。他寫 Python 作業時，直接把題目貼給 Gemma 4，AI 不僅給出解答，還附上逐行註解說明邏輯。因為是本地模型，完全不用擔心學校的網路限制。

延伸閱讀

常見問題

Q: 我的電腦只有 8GB RAM，跑得動嗎？ A: 可以的！建議使用 Gemma 4 2B 版本，它只需要約 4GB 記憶體。如果同時開瀏覽器和其他軟體，可能會稍微卡頓，但基本使用沒問題。

Q: 為什麼我的 Gemma 4 回答都是英文？ A: Gemma 4 預設以英文為主。你可以在提問時加上「請用繁體中文回答」，或者在 Open WebUI 的系統提示詞中設定「你是一個只會用繁體中文回答的助手」。

Q: 下載的模型檔案會佔很多空間嗎？ A: 2B 版本約 1.5GB，12B 版本約 9GB，26B 版本約 20GB。建議只下載你需要的大小，用完可以隨時刪除（ollama rm gemma4:2b）。

Q: Mac 用 M1 晶片跑得順嗎？ A: 非常順！Apple Silicon 的統一記憶體架構非常適合跑 AI 模型。M1 16GB 跑 12B 版本完全沒問題，M2/M3 效果更好。

Q: 我可以用 Gemma 4 做商業用途嗎？ A: 可以的。Gemma 4 使用 Google 的 Gemma 授權，允許商業使用。但請注意，你不能直接用 Gemma 4 的名稱來推廣你的商業產品。