本地跑Gemma 4!|免連網超強AI
你有沒有想過,不用連上網路,就能在自己的電腦上跑一個超強的AI模型?聽起來像是科幻電影的情節,但Google最新開源的Gemma 4讓這一切成真了。
這篇文章會教你,如何在你的Mac、Windows或Linux電腦上,完整安裝並執行Gemma 4。你不需要強大的雲端伺服器,不需要付費訂閱,更不用擔心你的資料被上傳到不知道哪個伺服器。一切都在你的電腦本地完成,速度快、隱私又安全。
我們會從下載模型開始,一步一步帶你設定環境、安裝必要的工具,最後成功叫出AI幫你回答問題。無論你是寫程式的工程師、需要處理大量文件的上班族,還是單純對AI好奇的玩家,這篇教學都能讓你立刻成為本地AI高手。
準備好了嗎?讓我們開始吧!
為什麼要跑本地AI?三大理由讓你心動
你可能會問:「我直接用ChatGPT或Gemini不就好了嗎?為什麼要這麼麻煩在本地跑?」
這問題問得好。本地AI的優勢,遠比你想像的還要強大。
第一,隱私完全由你掌控。 當你把文件或問題丟給雲端AI時,這些資料其實都上傳到對方的伺服器。如果你處理的是公司機密、客戶資料或個人隱私,用雲端AI其實有風險。本地跑的AI,資料永遠留在你的電腦裡,沒有人能看到你在問什麼。
第二,完全免費,沒有用量限制。 ChatGPT Plus一個月要20美元,Claude Pro也要20美元。但Gemma 4是完全開源且免費的。你可以問它一千個問題、一萬個問題,完全不用付半毛錢。對於需要大量測試或長期使用的人來說,這省下的錢非常可觀。
第三,離線也能用,速度超快。 不需要網路連線,你在飛機上、捷運裡、甚至偏遠山區,只要有電腦就能用。而且因為不用經過網路傳輸,回應速度通常比雲端AI更快,幾乎是即時回覆。
第一步:你的電腦跑得動嗎?硬體需求檢查
在開始之前,我們先來確認你的電腦是否適合跑Gemma 4。好消息是,Gemma 4有多種尺寸的版本,從輕量級的2B參數版本,到強大的12B參數版本,你可以根據自己的硬體來選擇。
最低需求(跑2B版本):
- RAM: 8GB以上(建議16GB)
- 儲存空間: 至少5GB可用空間
- CPU: 任何現代雙核心處理器(Intel i3 / AMD Ryzen 3 以上)
- GPU: 不需要獨立顯示卡(但有更好)
建議配置(跑12B版本):
- RAM: 16GB以上(32GB更順暢)
- 儲存空間: 至少20GB可用空間
- GPU: NVIDIA顯示卡(8GB VRAM以上)或Apple Silicon Mac(M1/M2/M3/M4,建議16GB RAM以上)
我該選哪個版本?
- 如果你用的是一般筆電(8GB RAM):建議跑Gemma 4 2B版本,速度流暢。
- 如果你用的是高效能筆電或桌機(16GB RAM以上):可以試試Gemma 4 12B,能力更強。
- 如果你有NVIDIA顯示卡或Apple Silicon Mac:可以跑量化版(GGUF格式)的12B,在效能與速度之間取得平衡。
第二步:下載並安裝Ollama — 你的AI管家
要讓Gemma 4在你的電腦上跑,最簡單的方式就是使用Ollama這個工具。它就像是一個AI管家,幫你處理所有複雜的設定,你只需要下載模型並下指令就好。
下載Ollama的步驟:
- 打開你的瀏覽器,前往 ollama.com。
- 點選 Download 按鈕。
- 選擇你的作業系統版本:macOS、Windows或Linux。
- 下載完成後,雙擊安裝檔,按照畫面指示完成安裝(Windows版本可能需要允許安裝)。
安裝完成後,你會在工作列或選單列看到一個駱駝圖示,這代表Ollama已經在背景運作,準備好為你服務了。
第三步:用一條指令下載Gemma 4
現在是最令人興奮的部分——下載並執行Gemma 4。Ollama讓這件事變得非常簡單。
在Windows上:
- 按下
Windows鍵+R,輸入cmd,然後按Enter打開命令提示字元。 - 輸入以下指令並按Enter:
ollama run gemma4:2b
在macOS或Linux上:
- 打開 終端機(Terminal)。
- 輸入以下指令並按Enter:
ollama run gemma4:2b
就是這麼簡單!Ollama會自動下載Gemma 4 2B版本的模型(大約1.5GB),然後自動載入。當你看到 >>> 這個符號出現時,代表AI已經準備好回答你的問題了。
如果你想跑更強大的版本,可以改成:
ollama run gemma4:12b
這個版本大約9GB,需要比較久的時間下載,但能力更強。
第四步:開始跟AI對話!實戰測試
當你看到 >>> 提示符號,就可以開始輸入任何問題了。讓我們來測試幾個實際案例:
測試1:寫一封專業的電子郵件
輸入:
幫我寫一封給客戶的郵件,通知他們產品出貨延遲一週,並提供10%折扣作為補償。語氣要專業且誠懇。
Gemma 4會立刻生成一封完整的郵件草稿,你可以直接複製貼上使用。
測試2:解釋複雜概念
輸入:
用簡單的方式解釋什麼是「區塊鏈」,讓一個完全不懂科技的人也能聽懂。
你會發現Gemma 4用生活化的比喻來解釋,非常適合用來學習新知識。
測試3:程式碼除錯
輸入:
我有一段Python程式碼,想要讀取CSV檔案並計算每欄的平均值,可以幫我寫嗎?
對於開發者來說,這功能簡直是神器。
小技巧: 如果你想要結束對話,輸入 /bye 就可以了。下次要再用,只要再次輸入 ollama run gemma4:2b 即可。
第五步:進階玩法 — 用圖像和文件提問
如果你下載的是Gemma 4 12B版本,它還支援圖像理解和文件分析。你可以這樣做:
分析圖片: 先輸入圖片的路徑,然後問問題:
ollama run gemma4:12b
>>> 請描述這張圖片的內容:/Users/你的名字/Desktop/photo.jpg
讀取PDF或文字檔: 你可以把文件內容貼進去,或使用Ollama的API來整合更多功能。
這意味著你可以讓AI幫你讀合約、分析圖表、甚至看懂發票,全部都在你的電腦本地完成,資料不外洩。
延伸閱讀
常見問題
Q: 我的電腦跑起來很慢,怎麼辦?
A: 建議先使用2B版本,它對硬體要求最低。如果還是慢,可以在Ollama設定中降低執行緒數(執行 ollama run gemma4:2b --num-threads 2)。
Q: 下載到一半網路斷了,要重新下載嗎?
A: 不用擔心,Ollama支援斷點續傳。重新執行 ollama run gemma4:2b,它會從中斷的地方繼續下載。
Q: Gemma 4和ChatGPT哪個比較厲害? A: 在一般問答和寫作任務上,Gemma 4 12B的表現非常接近ChatGPT 3.5。但在非常複雜的推理或專業領域知識上,ChatGPT 4仍略勝一籌。不過Gemma 4完全免費、離線可用、保護隱私,這些是它最大的優勢。
Q: 我可以把Gemma 4用在商業專案上嗎? A: 可以!Gemma 4使用的是Google的Gemma授權條款,允許商業使用。但建議你還是閱讀一下完整的授權文件,確認符合你的使用場景。
Q: Ollama支援中文嗎? A: 完全支援。Gemma 4經過了多語言訓練,中文對話能力非常流暢,你可以直接用繁體中文提問。