你每個月花幾百塊訂閱 ChatGPT 或 Claude，結果常常遇到回覆速度慢、隱私疑慮，或者突然改版讓你措手不及？其實，有一條更自由、更省錢的路——在自己的電腦上跑開源 AI 模型。

這篇文章就是為你準備的。你不需要是程式高手，也不用買昂貴的顯示卡。我會一步步帶你了解：為什麼要自己跑模型、你的電腦能不能跑、以及最簡單的入門方法。看完這篇，你就能開始體驗「AI 完全由你掌控」的快感。

為什麼要放棄雲端AI？三大痛點一次解決

很多人覺得「用 ChatGPT 就好啦，幹嘛這麼麻煩？」但你有沒有遇過這些情況？

第一，隱私問題。 你把公司機密文件貼進 ChatGPT，請它幫你整理重點。你知道這些資料會被 OpenAI 拿去訓練模型嗎？就算你選擇「不分享資料」，你的對話紀錄仍會暫存在他們的伺服器上。對於處理合約、客戶名單、甚至是個人信件的人來說，這是一個巨大的風險。

第二，收費陷阱。 ChatGPT Plus 每月 20 美元（約 600 台幣），Claude Pro 也是差不多價格。一年下來就是 7,200 台幣。如果你需要更強的功能，比如 GPT-5 或 Claude Opus，每月費用可能飆到 200 美元。自己跑開源模型，電費加硬體折舊，一個月可能不到 100 台幣。

第三，速度與可用性。 你遇過 ChatGPT 突然「當機」或「繁忙中」嗎？或者回覆速度慢到你想摔手機？自己跑模型，速度完全取決於你的硬體，沒有排隊、沒有流量限制。而且，你不需要網路也能用——在飛機上、地鐵裡、甚至露營時，AI 隨時待命。

你的電腦夠力嗎？一張表看懂硬體需求

很多人聽到「自己跑 AI 模型」就覺得要花幾十萬買工作站。其實，現在很多輕量級模型，連五年前的 MacBook Air 都能順跑。

我幫你整理了一個簡單的對照表：

如果你的電腦是：

  • 8GB 記憶體、無獨立顯示卡（如一般文書筆電）：可以跑 1B~3B 參數的模型，像是 Gemma 3 1B、Phi-3-mini。適合簡單問答、翻譯、摘要。
  • 16GB 記憶體、內建顯示卡（如 M1/M2 MacBook Air）：可以跑 7B~8B 參數的模型，像是 Llama 3.1 8B、Gemma 2 9B。能處理較複雜的對話、寫作、程式碼輔助。
  • 32GB 記憶體、中階顯示卡（如 RTX 3060 以上）：可以跑 12B~14B 參數的模型，像是 Qwen 2.5 14B、Mistral Small。幾乎能勝任多數日常工作，速度也很快。
  • 64GB 以上、高階顯示卡（如 RTX 4090）：可以跑 70B 參數的模型，像是 Llama 3 70B、DeepSeek V2。接近 GPT-4 等級的表現，適合專業用途。

關鍵小技巧： 如果你的記憶體不夠，可以選擇「量化版本」（GGUF 格式）的模型。量化就像是把一張高解析度照片壓縮成 JPEG——檔案變小、速度變快，但品質只損失一點點。例如，原本需要 32GB 才能跑的 70B 模型，量化後可能只要 16GB 就能跑。

最簡單的入門方式：Ollama 五分鐘搞定

好，現在你確認自己的電腦可以跑了。下一步是什麼？我推薦你使用 Ollama 這個工具——它就像 AI 模型界的 App Store，讓你用一行指令就能下載並執行模型。

步驟一：安裝 Ollama

  1. 到 ollama.com 下載對應你作業系統的版本（Windows、macOS、Linux 都有）。
  2. 安裝過程就是一直按下一步，非常簡單。
  3. 安裝完成後，打開終端機（Windows 是命令提示字元或 PowerShell，Mac 是終端機）。

步驟二：下載並執行模型 在終端機輸入：

ollama run gemma3:1b

這會自動下載 Google 的 Gemma 3 1B 模型（約 1GB）。下載完成後，你就能直接跟它對話了！輸入你的問題，它就會回覆。

步驟三：試試不同模型 想換模型？先輸入 /bye 退出，再輸入：

ollama run llama3.1:8b

這會下載 Meta 的 Llama 3.1 8B 模型（約 4.7GB）。這個模型更聰明，能寫文章、寫程式、甚至幫你分析數據。

真實案例： 我朋友是自由接案的設計師，他用 Ollama 跑 Gemma 3 1B 在自己的 MacBook Air 上，專門用來幫他翻譯客戶的英文需求摘要。他說：「以前用 ChatGPT 還要擔心客戶資料外洩，現在完全安心，而且不用網路就能用，去咖啡廳工作超方便。」

進階玩法：圖形介面與自訂參數

如果你覺得終端機太「工程師風格」，還有一個更友善的選擇：LM Studio。

LM Studio 提供漂亮的圖形介面，讓你可以像用 ChatGPT 一樣跟模型對話。你只需要：

  1. 到 lmstudio.ai 下載安裝。
  2. 在軟體內搜尋模型名稱（例如「Gemma 3 1B GGUF」），點擊下載。
  3. 載入模型後，就可以開始聊天了！

自訂參數的小秘密： 大多數人直接用預設設定就很好了。但如果你想讓模型表現更好，可以調整兩個關鍵參數：

  • Temperature（溫度）： 數值越低（0.10.3），回覆越保守、確定；數值越高（0.81.2），回覆越有創意、變化多。寫程式建議 0.2，寫故事建議 0.8。
  • Context Length（上下文長度）： 這決定模型能「記住」多少前面的對話。預設通常是 2048 tokens（約 1500 中文字），你可以調到 4096 或 8192，但需要更多記憶體。

實戰場景： 假設你要寫一份產品提案。你可以用 LM Studio 載入 Llama 3.1 8B，設定 Temperature 為 0.7，然後輸入：「請幫我寫一份關於智慧家居產品的提案大綱，目標客戶是30-45歲的科技愛好者。」模型會給你一個結構完整的初稿，你再手動修改細節。

延伸閱讀

常見問題

Q: 我的電腦只有 8GB 記憶體，真的能跑嗎？ A: 可以！選擇 1B~3B 參數的量化模型（如 Gemma 3 1B GGUF），它只需要約 2GB 記憶體。即使同時開瀏覽器和文書軟體，也不會卡頓。

Q: 自己跑的模型會不會很笨？比 ChatGPT 差很多？ A: 對於簡單任務（翻譯、摘要、問答），8B 模型已經接近 GPT-3.5 的水準。但對於複雜推理、長篇創作，70B 以上的模型才接近 GPT-4。你可以先從小的開始試，不夠用再升級。

Q: 下載模型會不會中毒？安全嗎？ A: 從 Hugging Face 官方下載、或透過 Ollama/LM Studio 內建的模型庫下載，安全性很高。避免從不明網站下載「破解版」模型。另外，下載前可以檢查模型的下載量和好評數。

Q: 跑模型時電腦很燙、風扇很大聲，正常嗎？ A: 正常！跑 AI 模型是高度運算密集的工作，CPU 或 GPU 會滿載運作。建議在通風良好的地方使用，筆電可以墊高幫助散熱。如果長時間使用，可以考慮降頻或選用更小的模型。

Q: 我該怎麼選擇適合自己的模型？ A: 新手建議從 Gemma 3 1B 開始（最輕量、速度快），熟悉後再試 Llama 3.1 8B（更聰明）。如果你想玩中文能力更強的，可以試 Qwen 2.5 7B。每個模型都是免費的，多試幾個就知道哪個適合你。