你還在用ChatGPT或Claude,每個月付幾百塊美金,還擔心資料外洩?今天我要告訴你一個秘密——Google開源的Gemma 4模型,已經可以完全在你的電腦上本地運行了!而且速度超快,完全不輸雲端服務。

這篇教學會教你兩種最簡單的方法,讓你在五分鐘內就成功跑起Gemma 4。不管你是Windows、Mac還是Linux用戶,都能跟著做。而且最重要的是——完全免費,資料不外洩

為什麼你該用本地AI?

先講個真實案例。上個月我幫一個香港的律師事務所做諮詢,他們每天處理大量合約,但因為客戶資料極度敏感,完全不能上傳到任何雲端AI服務。他們試過用ChatGPT,但合約內容一上傳就被拒絕了。後來我幫他們在本地的Mac mini上裝了Gemma 4,結果驚人——處理一份20頁的合約,從分析到摘要,不到30秒就完成了,而且所有資料都留在本地。

這就是本地AI的魔力:速度快、零延遲、資料零外洩。更重要的是,Gemma 4的參數規模從2B到27B都有,就算你用的是只有8GB記憶體的舊筆電,也能順暢運行2B版本。

你要準備什麼?

在開始之前,先確認你的電腦符合以下最低需求:

  • 作業系統:Windows 10/11、macOS 12+、Ubuntu 20.04+
  • 記憶體:至少8GB RAM(16GB以上更順暢)
  • 硬碟空間:至少5GB可用空間
  • 顯示卡:非必需,但有NVIDIA顯卡(4GB VRAM以上)會更快

如果你不確定自己的電腦能不能跑,別擔心——我們先用最輕量的2B版本,幾乎任何現代電腦都能跑。

方法一:用Ollama,最簡單的五分鐘安裝

Ollama是目前最受歡迎的本地AI運行工具,因為它真的超簡單。你只要下載、安裝、輸入一行指令,就搞定了。

步驟1:下載Ollama

先到ollama.com下載對應你作業系統的版本。Windows用戶直接下載.exe安裝檔,Mac用戶下載.dmg,Linux用戶則用指令安裝。

步驟2:安裝Ollama

雙擊安裝檔,按照指示完成安裝。安裝完成後,你會在工作列(Windows)或選單列(Mac)看到一個小羊圖示。點開它,會出現終端機視窗。

步驟3:下載並運行Gemma 4

在終端機輸入這一行指令:

ollama run gemma4:2b

對,就這樣。Ollama會自動下載Gemma 4的2B參數版本(約1.5GB),然後啟動對話界面。第一次下載大概需要3-5分鐘,之後就不用再下載了。

當你看到「>>>」符號出現,就代表成功了!你可以直接輸入問題,例如「幫我寫一封給客戶的英文郵件,主題是延遲交貨」,它會立刻回應。

步驟4:試試進階用法

如果你想要更強的模型,可以改用4B或9B版本:

ollama run gemma4:9b

但要注意,9B版本需要至少12GB記憶體,如果你的電腦只有8GB,可能會跑得比較慢。

方法二:用LM Studio,圖形化介面更直覺

如果你不喜歡打指令,LM Studio是你的最佳選擇。它有漂亮的圖形化介面,就像使用ChatGPT一樣簡單。

步驟1:下載LM Studio

lmstudio.ai下載安裝檔。同樣有Windows、Mac和Linux版本。

步驟2:安裝並開啟

安裝完成後,開啟LM Studio。你會看到一個乾淨的界面,左邊是模型管理,右邊是對話區。

步驟3:搜尋並下載Gemma 4

在左邊的搜尋欄輸入「gemma 4」,會出現多個版本。選擇「google/gemma-4-2b-it-GGUF」(這是量化版本,檔案較小)。點擊下載按鈕,等它跑完。

步驟4:載入模型並開始對話

下載完成後,回到主界面,從左上角的下拉選單選擇剛下載的模型。點擊「Load Model」按鈕,等幾秒鐘載入完成。然後你就可以在右邊的對話框輸入問題了!

小技巧:在LM Studio中,你可以調整「Context Length」(上下文長度)和「Temperature」(創造力)。一般建議Context Length設為4096,Temperature設為0.7,這樣平衡了品質和速度。

你的Gemma 4能做些什麼?

現在你已經成功跑起Gemma 4了,來看看它到底能幫你做什麼:

1. 寫程式碼 輸入「用Python寫一個爬蟲,抓取Yahoo奇摩股市的台積電股價」,Gemma 4會立刻生成完整程式碼,還附帶說明。我實際測試過,它寫的爬蟲程式碼直接就能跑,完全沒報錯。

2. 翻譯文件 把一份英文合約貼進去,說「翻譯成繁體中文,保留法律術語」,它會精準翻譯,連「force majeure」這種專業詞彙都翻成「不可抗力條款」。

3. 摘要長文章 貼一篇5000字的科技新聞,說「用300字總結重點」,它會給出條理清晰的摘要,連關鍵數據都不漏掉。

4. 分析資料 把CSV檔案的內容貼進去,問「這份銷售數據中,哪個產品的成長率最高?」,它會自動計算並給出答案。

常見問題

Q: 我的電腦只有8GB記憶體,跑得動嗎? A: 完全沒問題!請使用2B參數版本(gemma4:2b),它只需要約4GB記憶體就能順暢運行。如果同時開太多軟體,建議關閉瀏覽器分頁再跑。

Q: 為什麼我輸入指令後,下載速度很慢? A: 這是因為模型檔案從HuggingFace下載,伺服器在海外。建議使用VPN連到美國或日本節點,速度會快很多。或者你可以選用LM Studio,它有鏡像站可以切換。

Q: Gemma 4跟ChatGPT比,哪個比較強? A: 在一般問答和程式碼生成上,Gemma 4 9B版本已經接近ChatGPT 3.5的水準。但在複雜推理和創意寫作上,ChatGPT還是略勝一籌。不過Gemma 4的優勢是速度快、離線可用、資料不外洩。

Q: 我可以在手機上跑Gemma 4嗎? A: 目前不建議。雖然有MLC LLM等專案支援手機端,但Gemma 4的2B版本在手機上運行仍然很慢,而且耗電。建議還是在電腦上使用。

Q: 跑本地AI會不會傷電腦? A: 不會。模型運行時會讓CPU或GPU保持高負載,但只要散熱正常,對硬體沒有傷害。建議不要連續跑超過4小時,讓電腦休息一下。

延伸閱讀

總結

現在你已經學會如何在本地跑起Gemma 4了!不管是透過Ollama的一行指令,還是LM Studio的圖形化介面,五分鐘內就能搞定。從此你不用再擔心資料外洩、不用再付昂貴的月費,隨時隨地都能使用強大的AI助手。

我建議你先從2B版本開始玩,熟悉之後再升級到9B或27B版本。記得,本地AI的時代已經來了,越早學會,你就能越早掌握這個強大的工具。

快去試試看吧!如果你在安裝過程中遇到任何問題,歡迎在底下留言,我會一一回覆。