你每個月還在付錢給ChatGPT或Claude嗎？每個月幾百甚至上千塊的訂閱費，用起來還要擔心網路不穩、對話被拿去訓練、或是突然被限流。更別提有時候只是想要快速整理一份筆記，AI卻卡住轉圈圈，氣得你關掉視窗。

其實，從今年開始，有一個超棒的解決方案已經成熟到連阿嬤都能自己裝：在你自己電腦上跑AI模型。這不是什麼科幻未來，而是現在就能做到的事。你只需要一個叫做 Ollama 的免費工具，加上一台還算可以的電腦，就能擁有自己的私人AI助手，完全離線、速度飛快、而且不用花一毛錢。

今天這篇教學，就是要帶你從零開始，在 Windows 或 Mac 上建立自己的本地 AI 環境。你不用懂程式碼，不用怕搞壞電腦，只要跟著步驟走，五分鐘內就能跟自己的 AI 聊天了。

為什麼你該試試本地AI？先說三個殘酷真相

很多人聽到「自己架AI」就覺得太難、太麻煩，寧可繼續付錢給雲端服務。但你知道嗎？本地AI的好處遠比你想像的多。

第一，隱私就是金錢。 當你把公司機密文件、個人日記、或是客戶資料貼進 ChatGPT 時，這些資料就傳到了美國的伺服器上。雖然 OpenAI 說會保密，但誰能保證？本地 AI 完全跑在你的電腦裡，不聯網、不上傳，資料就是你的，誰也偷不走。

第二，速度是雲端永遠追不上的。 你試過在尖峰時段用 ChatGPT 嗎？那個轉圈圈的等待感真的很煩人。本地 AI 用的是你的 GPU 或 CPU，沒有排隊、沒有頻寬限制，你打字多快，它回得就多快。而且，完全沒有網路也能用——這點在搭捷運、出國、或是網路不穩時超級實用。

第三，長期下來省超大。 ChatGPT Plus 一個月 20 美金，Claude Pro 也是 20 美金，一年下來就是將近 5000 港幣或 20000 台幣。如果你只是偶爾用用、寫寫文案、整理資料，其實根本不需要花這麼多錢。本地 AI 完全免費，而且模型越出越強，現在已經有媲美 GPT-4 的開源模型可以跑了。

第一步：下載 Ollama — 你的AI管家

Ollama 是目前最簡單、最受歡迎的本地 AI 管理工具。它就像一個 App Store，但你不用註冊帳號，直接從它的「商店」（其實是模型庫）下載各種開源 AI 模型，然後在你的電腦上執行。

安裝步驟非常簡單：

  1. 打開瀏覽器，前往 ollama.com。
  2. 點擊大大的 Download 按鈕。
  3. 選擇你的作業系統：Windows 或 macOS（Linux 也有支援，但我們今天先專注在一般用戶）。
  4. 下載完成後，雙擊安裝檔，一路按「下一步」就好。macOS 用戶可能要將 Ollama 圖示拖到 Applications 資料夾。
  5. 安裝完成後，Ollama 會自動啟動，你會在工具列（Windows）或選單列（Mac）看到一個可愛的羊駝圖示。

就是這麼簡單，沒有複雜的環境設定，沒有惱人的指令碼。Ollama 會幫你處理好所有底層的東西。

第二步：挑選你的第一個AI模型 — 從輕量級開始

安裝好 Ollama 後，接下來要下載一個 AI 模型。模型就像是 AI 的大腦，不同的模型有不同的能力和大小。對於初學者，我強烈建議先從 Llama 3.2 1B 或 Qwen 2.5 7B 開始，這兩個模型都很小（分別約 0.6GB 和 4.7GB），下載很快，而且在你一般筆電上就能跑得順暢。

怎麼下載模型呢？

  1. 打開你的命令提示字元（Windows 按 Win + R，輸入 cmd）或終端機（Mac 按 Cmd + 空白鍵，搜尋「終端機」）。

  2. 輸入以下指令，然後按 Enter：

    ollama run llama3.2:1b

    第一次執行時，Ollama 會自動下載這個模型。你會看到一個下載進度條，根據你的網路速度，大概 30 秒到 2 分鐘就會完成。

  3. 下載完成後，你就會直接進入一個聊天畫面！你可以直接打字跟它對話，就像用 ChatGPT 一樣。

試試看：

  • 輸入「嗨，你是誰？」它會自我介紹。
  • 輸入「幫我把這段文字翻成英文：今天天氣真好。」
  • 輸入「寫一首關於貓咪的短詩。」

你會發現，即使是最小的模型，處理基本對話、翻譯、簡單創作都已經非常夠用。而且回應速度快到讓你驚訝——幾乎是即時的。

如果你想試試更強的模型，可以下載 Qwen 2.5 7B（指令：ollama run qwen2.5:7b）或 Llama 3.1 8B（指令：ollama run llama3.1:8b）。這些模型需要約 4-8GB 的 RAM，如果你的電腦記憶體足夠（16GB 以上），跑起來完全沒問題。

第三步：進階玩法 — 讓AI幫你整理文件、寫程式

只會聊天太浪費了。本地 AI 真正的威力，在於你可以把它整合到你的工作流程中。以下分享兩個超實用的技巧。

技巧一：用 AI 摘要長篇文章或 PDF

你有沒有遇過這種情況：客戶或老闆傳了一份 50 頁的 PDF 給你，叫你「幫我看一下重點」。以前你可能要花一個小時慢慢讀，現在你可以這樣做：

  1. 先把 PDF 的文字內容複製出來（如果 PDF 是掃描檔，先用 OCR 軟體轉成文字）。

  2. 在終端機中，輸入以下指令來建立一個「系統提示詞」，告訴 AI 它的角色：

    ollama run llama3.2:1b

    進入對話後，輸入：

    你是一位專業的商業分析師。我會給你一段長篇文章，請你用繁體中文，以條列式的方式摘要出三個最重要的重點，並附上每個重點的簡短說明。

  3. 然後貼上你的文章內容（可以分段貼，因為模型有長度限制）。

  4. AI 就會立刻幫你整理出重點摘要。你可以複製這些摘要，貼到你的筆記軟體或報告裡。

技巧二：讓 AI 幫你寫程式或除錯

如果你會寫一點程式，本地 AI 是你的最佳除錯夥伴。你可以這樣用它：

  1. 同樣進入 Ollama 的對話模式。

  2. 輸入：

    我是一個 Python 初學者。以下是我的程式碼，它應該要計算 1 到 100 的總和，但跑出來結果不對。請幫我找出問題並修正，並用簡單的中文解釋為什麼錯了。

  3. 貼上你的程式碼。

  4. AI 會分析你的程式，指出 bug，並提供修正後的版本。因為它跑在你的電腦上，你不用擔心把公司機密程式碼上傳到任何雲端。

本地AI的未來與你的下一步

你可能會想：「這些開源模型真的能比得上 ChatGPT 嗎？」老實說，在複雜推理、創意寫作方面，頂級的閉源模型（如 GPT-4o、Claude 3.5 Sonnet）仍然領先。但是，對於 80% 的日常任務——整理資料、翻譯、摘要、寫簡單的文案、程式除錯——現在的開源模型已經非常夠用，而且速度更快、更私密、完全免費。

更重要的是，這個領域的進步速度極快。每個月都有新的、更強的開源模型釋出。幾個月前還需要頂級顯示卡才能跑的模型，現在已經能在一般筆電上順暢運行。你現在學會的這套 Ollama 流程，未來可以無痛升級到任何新模型。

今天就開始行動吧！ 花五分鐘下載 Ollama，選一個小模型試試看。你會發現，擁有自己的 AI 助手，比你想像的簡單太多了。而且，當你下次在捷運上沒有網路時，還能繼續用 AI 幫你寫 email、想點子，那種感覺真的很踏實。

延伸閱讀

常見問題

Q: 我的電腦很舊，跑得動嗎？ A: 可以！即使是 8GB RAM 的筆電，也能跑 Llama 3.2 1B 或 Qwen 2.5 1.5B 這類小模型。速度可能不會飛快，但絕對能用。建議從 1B 參數的模型開始試試看。

Q: 下載模型會佔很多硬碟空間嗎？ A: 看模型大小。最小的模型約 0.6GB，中型的約 4-8GB。你可以先下載一個小的試用，覺得不錯再下載大的。Ollama 可以同時管理多個模型，不用的可以刪除釋放空間。

Q: 本地 AI 可以連網搜尋資料嗎？ A: 預設情況下不行。Ollama 模型是離線運行的，它只根據你提供的對話內容回答。如果你需要網路搜尋功能，可以搭配其他工具（如 Open WebUI 或 LangChain）來實現，但這屬於進階玩法。

Q: 為什麼我用中文問問題，它回答的品質有時不穩定？ A: 這是因為許多開源模型的主要訓練資料是英文。建議選擇對中文支援較好的模型，例如 Qwen 系列（阿里巴巴開發）或 Llama 3 系列（Meta 開發）。另外，在提問時使用明確、完整的句子，效果會更好。

Q: Ollama 會自動更新模型嗎？ A: 不會自動更新。當有新版本釋出時，你需要手動下載。你可以用 ollama pull <模型名稱> 指令來更新到最新版，或用 ollama list 查看你已下載的模型。

<script type="application/ld+json">
{
  "@context": "https://schema.org",
  "@type": "FAQPage",
  "mainEntity": [
    {
      "@type": "Question",
      "name": "我的電腦很舊，跑得動嗎？",
      "acceptedAnswer": {
        "@type": "Answer",
        "text": "可以！即使是 8GB RAM 的筆電，也能跑 Llama 3.2 1B 或 Qwen 2.5 1.5B 這類小模型。速度可能不會飛快，但絕對能用。建議從 1B 參數的模型開始試試看。"
      }
    },
    {
      "@type": "Question",
      "name": "下載模型會佔很多硬碟空間嗎？",
      "acceptedAnswer": {
        "@type": "Answer",
        "text": "看模型大小。最小的模型約 0.6GB，中型的約 4-8GB。你可以先下載一個小的試用，覺得不錯再下載大的。Ollama 可以同時管理多個模型，不用的可以刪除釋放空間。"
      }
    },
    {
      "@type": "Question",
      "name": "本地 AI 可以連網搜尋資料嗎？",
      "acceptedAnswer": {
        "@type": "Answer",
        "text": "預設情況下不行。Ollama 模型是離線運行的，它只根據你提供的對話內容回答。如果你需要網路搜尋功能，可以搭配其他工具（如 Open WebUI 或 LangChain）來實現，但這屬於進階玩法。"
      }
    },
    {
      "@type": "Question",
      "name": "為什麼我用中文問問題，它回答的品質有時不穩定？",
      "acceptedAnswer": {
        "@type": "Answer",
        "text": "這是因為許多開源模型的主要訓練資料是英文。建議選擇對中文支援較好的模型，例如 Qwen 系列（阿里巴巴開發）或 Llama 3 系列（Meta 開發）。另外，在提問時使用明確、完整的句子，效果會更好。"
      }
    },
    {
      "@type": "Question",
      "name": "Ollama 會自動更新模型嗎？",
      "acceptedAnswer": {
        "@type": "Answer",
        "text": "不會自動更新。當有新版本釋出時，你需要手動下載。你可以用 ollama pull <模型名稱> 指令來更新到最新版，或用 ollama list 查看你已下載的模型。"
      }
    }
  ]
}
</script>