你還在把程式碼貼到 ChatGPT 或 Claude 網頁版嗎?每次上傳都心驚膽跳,擔心公司機密外洩?或者你只是想要一個隨時隨地都能用、不用排隊、不用付月費的 AI 編碼夥伴?
今天這篇教學,就是要帶你「五分鐘搞定」一個完全本地執行的 AI 編碼助手。你不需要高階顯卡,不需要懂 Docker,甚至不用會寫指令。只要一台 Mac 電腦,跟著步驟走,你就能擁有屬於自己的、離線可用的、完全免費的 AI 編碼神器。
為什麼你需要本地 AI 編碼助手?
先說一個真實故事。我朋友阿強在一家新創公司當後端工程師,上個月他把一段客戶資料庫查詢的程式碼貼到 ChatGPT 想 Debug,結果隔天老闆就收到資安公司的警報——那段程式碼被 ChatGPT 拿去訓練了。雖然 OpenAI 說不會,但誰敢賭?
本地 AI 編碼助手的好處很明顯:
- 100% 隱私:所有程式碼都在你的電腦上跑,不會傳到任何伺服器
- 離線可用:飛機上、咖啡廳沒網路?照樣能幫你寫程式
- 完全免費:不用每月付 20 美元給 ChatGPT Plus
- 速度快:不用排隊,即問即答
當然,它的模型能力比不上 GPT-4 或 Claude 3.5,但對於日常的程式碼補全、簡單 Debug、寫註解、翻譯程式碼,綽綽有餘。
第一步:安裝 Ollama — 你的 AI 引擎
Ollama 是目前最簡單的本地 AI 模型執行工具。它就像一個 App Store,讓你一鍵下載各種開源模型,然後在本地跑起來。
下載與安裝:
- 打開瀏覽器,前往 ollama.com
- 點擊大大的「Download」按鈕,選擇 macOS 版本
- 下載後,把 Ollama 圖示拖到 Applications 資料夾
- 第一次打開時,系統會問你「是否允許從網路下載的應用程式」,點「打開」
安裝完成後,你會在工作列看到一個小羊駝圖示。點一下它,選擇「Open Terminal」,就會跳出終端機視窗。
下載你的第一個編碼模型: 在終端機輸入以下指令:
ollama pull qwen2.5-coder:7b
這個指令會下載阿里巴巴推出的 Qwen2.5-Coder 7B 模型,大小約 4.5GB。它專門為程式碼生成訓練,支援 Python、JavaScript、Java、C++ 等主流語言。
下載需要幾分鐘,取決於你的網路速度。下載完成後,你可以馬上測試一下:
ollama run qwen2.5-coder:7b "用 Python 寫一個快速排序演算法"
你會看到模型直接在終端機裡回覆你,完全離線、完全免費。
第二步:安裝 Continue — 你的 AI 夥伴介面
光有模型還不夠,我們需要一個方便的使用介面。Continue 是一款開源的 VS Code 擴充功能,它能讓你在編輯器裡直接跟 AI 對話,就像 GitHub Copilot 一樣。
安裝步驟:
- 打開 VS Code(如果沒有,先去 code.visualstudio.com 下載)
- 點擊左側的擴充功能圖示(四個方塊的那個)
- 搜尋「Continue」
- 找到官方版(橘色圖示,超過 50 萬次下載),點「安裝」
安裝完成後,你會看到 VS Code 右側多了一個新的側邊欄,上面寫著「Continue」。
設定模型連線:
- 點擊 Continue 側邊欄底部的齒輪圖示(設定)
- 你會看到
config.json檔案被打開 - 把內容改成這樣:
{
"models": [
{
"title": "Qwen Coder 7B",
"provider": "ollama",
"model": "qwen2.5-coder:7b"
}
],
"tabAutocompleteModel": {
"title": "Qwen Coder 7B",
"provider": "ollama",
"model": "qwen2.5-coder:7b"
}
}
- 儲存檔案
現在,你已經有了一個完全本地、離線可用的 AI 編碼助手!打開一個程式碼檔案,選取一段程式碼,按下 Cmd+L(Mac)或 Ctrl+L(Windows),就能跟 AI 對話。
第三步:進階技巧 — 讓 AI 更懂你的專案
基本的對話功能很好用,但如果你想要 AI 真正理解你的整個專案,需要做一些進階設定。
設定專案上下文:
Continue 支援「@」符號來引用檔案或資料夾。在對話框中輸入 @,你會看到檔案列表,選取你想讓 AI 參考的檔案。
更進階的做法是使用「索引」功能:
- 在 Continue 側邊欄,點擊右上角的三點選單
- 選擇「Index project」
- 等待索引完成(大型專案可能需要幾分鐘)
索引完成後,AI 就能理解你整個專案的架構、函式呼叫關係、變數命名習慣。當你問「幫我寫一個登入功能」,它會自動參考你專案中已有的 API 風格和資料庫結構。
多模型切換: 你不一定只用一個模型。Ollama 支援同時安裝多個模型,你可以根據任務切換:
# 下載更輕量的模型(適合老 Mac)
ollama pull qwen2.5-coder:1.5b
# 下載更強大的模型(需要 16GB RAM 以上)
ollama pull qwen2.5-coder:14b
# 下載專門寫 Python 的模型
ollama pull deepseek-coder:6.7b
在 Continue 的設定中,你可以把多個模型都加入 models 陣列,然後在對話時從下拉選單切換。
實戰案例:用本地 AI 寫一個 API
讓我們實際跑一遍。假設你正在開發一個電商網站,需要寫一個「獲取商品列表」的 API 端點。
- 在 VS Code 中建立一個新的
products.py檔案 - 按下
Cmd+L打開 Continue 對話框 - 輸入以下提示:
用 Flask 寫一個 API 端點,返回商品列表。商品資料存在一個 list 裡,每個商品有 id、name、price、stock 四個欄位。要有錯誤處理。
- 按 Enter 送出
你會看到模型開始生成程式碼。因為模型在本地跑,所以生成速度取決於你的 Mac 效能。一般來說,7B 模型在 M1 Mac 上大約每秒生成 15-20 個 token,寫一個簡單的 API 大概 10 秒左右。
生成的程式碼會直接插入到你的檔案中。你可以修改、測試、或者繼續追問「幫我加上分頁功能」。
延伸閱讀
常見問題
Q: 我的 Mac 是 Intel 晶片,跑得動嗎? A: 可以,但建議使用較小的模型(如 1.5B 或 3B 版本)。Intel Mac 的推理速度會比 Apple Silicon 慢 3-5 倍,但對於簡單的程式碼補全和 Debug 還是夠用的。
Q: 為什麼模型回答得這麼慢? A: 本地模型的速度取決於你的硬體。建議關閉其他耗資源的應用程式(如 Chrome 的多個分頁),或使用更小的模型。另外,第一次對話會比較慢,因為模型需要載入到記憶體中。
Q: 這個跟 GitHub Copilot 比起來如何? A: Copilot 的程式碼補全更即時、更準確,因為它用的是 GPT-4 等級的模型。但 Copilot 需要付費(每月 10 美元),而且所有程式碼會傳送到微軟伺服器。本地 AI 的優勢在於隱私和免費,適合對資安敏感的開發者。
Q: 我可以用其他模型嗎?像是 Llama 3 或 Mistral? A: 當然可以!Ollama 支援數百種模型。你可以在 ollama.com/library 瀏覽所有可用模型。對於程式碼任務,推薦 Qwen2.5-Coder、DeepSeek-Coder、CodeLlama 這三系列。
Q: 模型會佔用多少記憶體?
A: 7B 模型大約需要 8GB 的可用記憶體。如果你的 Mac 只有 8GB RAM,建議使用 3B 或 1.5B 的版本。你可以用 ollama ps 指令查看目前載入的模型佔用多少記憶體。
{
"@context": "https://schema.org",
"@type": "FAQPage",
"mainEntity": [
{
"@type": "Question",
"name": "我的 Mac 是 Intel 晶片,跑得動嗎?",
"acceptedAnswer": {
"@type": "Answer",
"text": "可以,但建議使用較小的模型(如 1.5B 或 3B 版本)。Intel Mac 的推理速度會比 Apple Silicon 慢 3-5 倍,但對於簡單的程式碼補全和 Debug 還是夠用的。"
}
},
{
"@type": "Question",
"name": "為什麼模型回答得這麼慢?",
"acceptedAnswer": {
"@type": "Answer",
"text": "本地模型的速度取決於你的硬體。建議關閉其他耗資源的應用程式(如 Chrome 的多個分頁),或使用更小的模型。另外,第一次對話會比較慢,因為模型需要載入到記憶體中。"
}
},
{
"@type": "Question",
"name": "這個跟 GitHub Copilot 比起來如何?",
"acceptedAnswer": {
"@type": "Answer",
"text": "Copilot 的程式碼補全更即時、更準確,因為它用的是 GPT-4 等級的模型。但 Copilot 需要付費(每月 10 美元),而且所有程式碼會傳送到微軟伺服器。本地 AI 的優勢在於隱私和免費,適合對資安敏感的開發者。"
}
},
{
"@type": "Question",
"name": "我可以用其他模型嗎?像是 Llama 3 或 Mistral?",
"acceptedAnswer": {
"@type": "Answer",
"text": "當然可以!Ollama 支援數百種模型。你可以在 ollama.com/library 瀏覽所有可用模型。對於程式碼任務,推薦 Qwen2.5-Coder、DeepSeek-Coder、CodeLlama 這三系列。"
}
},
{
"@type": "Question",
"name": "模型會佔用多少記憶體?",
"acceptedAnswer": {
"@type": "Answer",
"text": "7B 模型大約需要 8GB 的可用記憶體。如果你的 Mac 只有 8GB RAM,建議使用 3B 或 1.5B 的版本。你可以用 ollama ps 指令查看目前載入的模型佔用多少記憶體。"
}
}
]
}