你每個月花多少錢在 AI 工具上？ChatGPT Plus 要 20 美金、Claude Pro 也要 20 美金，加一加一年就噴掉快 5000 台幣。更別說你把公司機密或個人隱私貼到雲端，心裡總有點毛毛的。
今天要教你一個超實用的技巧：在自己的電腦上免費跑一個 AI 模型。我們選的是 HuggingFace 上最近超火紅的 Ornith-1.0-9B，這個模型只有 90 億參數，但表現驚人，而且完全開源、免費、離線可用。
這篇教學會從頭帶你走一遍：下載模型、安裝工具、用指令叫它做事。你不需要 GPU，只要一台普通的 Windows 或 Mac 筆電就能搞定。準備好了嗎？讓我們開始吧！
為什麼要在自己電腦跑 AI？三個你無法拒絕的理由
你可能會想：「我用手機的 ChatGPT App 就很方便了，為什麼要搞這麼複雜？」好問題。讓我用三個真實情境來說明。
第一，隱私無價。 小明是自由接案的設計師，他需要 AI 幫忙整理客戶的合約條款。但合約裡有客戶的營業機密，他不想貼到任何雲端服務。把模型下載到自己的 MacBook Air 上，所有的資料處理都在電腦裡完成，網路線拔掉也能用。這種安心感，是雲端服務永遠給不了的。
第二，省錢有感。 小華是大學生，每個月的生活費很緊。他想要 AI 幫忙改英文作文、解釋程式碼，但每個月 20 美金的訂閱費實在負擔太重。自己跑開源模型，電費幾乎可以忽略，換算下來一個月成本不到 10 塊錢台幣。省下來的錢，拿去喝杯手搖飲不香嗎？
第三，速度更快。 你可能不知道，雲端 AI 的回應時間包含「網路傳輸延遲」。你在台灣連到美國的伺服器，光來回就要 200 毫秒。而本地模型是即時回應，打字完幾乎零延遲。小美是 YouTuber，她需要 AI 快速生成影片標題的靈感，本地模型一秒給出 5 個選項，完全不卡頓。
第一步：下載 Ornith 9B 模型——比你想像中簡單
很多人看到「下載模型」就覺得是工程師才會的事。放心，今天我們用最簡單的方法，不需要寫任何程式碼。
首先，打開你的瀏覽器，搜尋 HuggingFace 並進入網站。在搜尋欄輸入 deepreinforce-ai/Ornith-1.0-9B-GGUF。你會看到一個模型頁面，裡面有各種檔案。
為什麼我們選 GGUF 版本？因為 GGUF 是專門為了在一般電腦上執行而優化的格式。它把模型壓縮成較小的檔案，同時保持不錯的品質。就像把一張 4K 照片壓縮成 1080p，畫質依然清晰，但檔案小很多。
往下滑，找到 Files and versions 區塊。你會看到好幾個檔案，例如 Ornith-1.0-9B-Q4_K_M.gguf 和 Ornith-1.0-9B-Q5_K_M.gguf。這裡的 Q4、Q5 代表「量化等級」。數字越小，檔案越小，但品質也略低。對於初學者，我們建議下載 Q4_K_M 版本——它大約 5.5GB，在 8GB 記憶體的電腦上就能跑得很順。
點擊檔案名稱右邊的下載按鈕。下載時間取決於你的網路速度，一般需要 10 到 30 分鐘。趁這個時間，我們來安裝執行模型需要的工具。
第二步：安裝 Ollama——你的 AI 管家
Ollama 是目前最受歡迎的本地 AI 執行工具，沒有之一。它把複雜的設定全部隱藏起來，你只要下載、安裝、打開，就能開始用。
到 ollama.com 官網，點擊大大的 Download 按鈕。選擇你的作業系統：Windows 或 macOS。下載後直接安裝，就像安裝任何軟體一樣。安裝完成後，你會在工作列或選單列看到一個羊駝圖示，代表 Ollama 正在背景執行。
現在，打開你的終端機（Windows 按 Win + R 輸入 cmd；Mac 按 Cmd + 空白鍵 搜尋 終端機）。輸入以下指令：
ollama serve你會看到類似 Listening on 127.0.0.1:11434 的訊息。這表示 Ollama 已經準備好接收你的指令了。
接下來，我們要把剛剛下載的 GGUF 模型匯入 Ollama。在終端機輸入：
ollama create ornith-9b -f ./Ornith-1.0-9B-Q4_K_M.gguf這個指令會建立一個名為 ornith-9b 的模型。過程大概需要 1-2 分鐘，完成後你會看到 success 的字樣。
第三步：開始對話——用中文測試你的本地 AI
模型準備好了，現在來測試它！在終端機輸入：
ollama run ornith-9b你會看到 >>> 的提示符號，這代表你可以開始打字了。先來個簡單的：「你好，請用繁體中文自我介紹。」
你會發現，回應速度非常快，幾乎是即時的。而且因為模型是離線的，你的對話內容完全不會上傳到任何伺服器。你可以放心問任何問題。
讓我們試試更實用的例子。假設你是一位部落客，需要幫一篇關於「如何在家種薄荷」的文章想標題。輸入：「我寫了一篇在家種薄荷的教學，請給我 5 個吸引人的繁體中文標題。」
模型會立刻回應，而且品質相當不錯。它可能會給出：「新手必看！陽台種薄荷 3 步驟」、「從種子到餐桌：薄荷種植全攻略」等選項。
另一個場景：你正在學 Python 程式設計。輸入：「用 Python 寫一個函式，計算一個數字列表的平均值，請附上註解。」模型會生成完整的程式碼，甚至比你預期的還要詳細。
進階技巧：自訂系統提示詞讓 AI 更懂你
你知道嗎？你可以給 Ornith 設定一個「角色」，讓它更符合你的需求。在 Ollama 中，這叫做「Modelfile」。建立一個文字檔案，取名為 Modelfile，內容如下：
FROM ornith-9b
SYSTEM "你是一位專業的中文編輯，擅長校對和改寫文章。你的回覆必須使用繁體中文，語氣專業但不失親切。"然後在終端機輸入：
ollama create ornith-editor -f ./Modelfile這樣你就創造了一個全新的模型 ornith-editor，專門用來編輯文章。以後只要輸入 ollama run ornith-editor，它就會以編輯的身份回答你。
這個技巧非常實用。你可以為不同的任務建立不同的角色：一個是「程式碼助手」，一個是「寫作教練」，一個是「英文翻譯」。每個角色都有自己的人格和專業知識，讓 AI 更精準地幫你完成工作。
常見問題
Q: 我的電腦只有 8GB 記憶體，跑得動嗎？ A: 完全沒問題。我們推薦的 Q4_K_M 版本只需要約 6GB 記憶體。如果你的電腦有 8GB，關閉幾個瀏覽器分頁後就能順暢執行。如果記憶體不足，可以改下載 Q3_K_M 版本，檔案更小，但品質略降。
Q: 這個模型支援繁體中文嗎？ A: 支援。Ornith 9B 是基於 Qwen 3.5 架構訓練的，對繁體中文的理解和生成能力都很強。不過它預設的回應可能是簡體中文，你可以在第一次對話時告訴它「請用繁體中文回答」，它就會記住。
Q: 下載的 GGUF 檔案可以刪掉嗎？ A: 可以，但建議保留。如果你不小心刪掉了 Ollama 中的模型，你可以重新匯入 GGUF 檔案。另外，把 GGUF 檔案備份到外接硬碟，以後重灌電腦時就不用重新下載了。
Q: 為什麼我的回應速度很慢？ A: 有幾個可能原因：1) 你的電腦沒有 GPU，使用 CPU 運算本來就比較慢；2) 背景有其他程式佔用資源，建議關閉 Chrome 等吃記憶體的軟體；3) 你下載了 Q8 或更高品質的版本，檔案太大導致速度下降。試試改用 Q4_K_M 版本。
Q: 這個模型可以商用嗎？ A: 可以。Ornith 1.0 採用 MIT 授權條款，這是最寬鬆的開源授權之一。你可以自由地用於商業專案、開發產品，甚至修改後再發布，都不需要付費或取得額外許可。
延伸閱讀
總結：你的 AI 自由從今天開始
到這裡，你已經學會了如何在自己的電腦上免費、離線地執行一個強大的 AI 模型。我們從下載 Ornith 9B 的 GGUF 檔案開始，安裝了 Ollama 這個友善的工具，最後成功跑出了第一個回應。
這個技能最大的好處是什麼？自由。你不再受制於雲端服務的訂閱費、網路延遲、或是隱私疑慮。你可以無限次地問問題、生成內容、除錯程式碼，全部免費，全部在你的掌控之中。
我鼓勵你今天就動手試試看。下載模型、安裝 Ollama、跑一次對話。你可能會發現，原來自己跑 AI 比想像中簡單太多了。而且當你熟悉了這個流程，以後任何開源模型發布，你都可以第一時間下載來玩，永遠走在 AI 的前端。
有什麼問題或心得，歡迎到 MobDome AI 的社群跟我們分享。期待看到你用本地 AI 創造出更多精彩的作品！