Mac本地跑AI?|這工具太省錢

開箱Nativ:你的Mac也能變AI工作站

你有沒有想過,為什麼每次用AI都要連上雲端?ChatGPT要月費、Claude要排隊、Gemini有時還卡卡。更別說那些企業級模型,每問一句都在燒錢。

今天我要介紹一個顛覆你想像的工具——Nativ。它讓你在自己的Mac上,直接運行開源AI模型。不用網路、不用月費、資料不外洩。聽起來太美好?我實測了一週,來看看真相。

Nativ在Hacker News上衝上120分,全球AI社群都在討論。為什麼?因為它解決了三個痛點:隱私成本離線可用。對於香港和台灣的讀者來說,這意味著什麼?你可以在咖啡廳、飛機上、甚至沒有網路的地方,照樣用AI寫程式、做摘要、翻譯文件。

五分鐘搞定|安裝與設定實測

第一步:下載與安裝

Nativ目前支援macOS,直接從官網下載dmg檔案。安裝過程非常簡單:

  1. 下載完成後,把Nativ拖進Applications資料夾
  2. 第一次打開會要求權限,允許就行
  3. 主畫面會顯示「選擇模型」的介面

第二步:選擇模型

Nativ內建模型庫,目前支援:

  • Llama 3.2(1B、3B、8B參數版本)
  • Mistral 7B
  • Phi-3-mini
  • Qwen2.5(0.5B到7B)
  • 還有更多社群模型

我選了Llama 3.2 8B(約4.7GB),下載速度取決於你的網路。在香港用1000M寬頻,大概3分鐘就下載完成。

第三步:開始使用

下載完成後,直接點「開始聊天」。介面非常簡潔,左邊是對話歷史,右邊是輸入框。沒有多餘的設定,就是一個乾淨的AI聊天室。

實測結果

  • MacBook Pro M1 Pro 16GB:回應速度約每秒15-20 tokens,流暢度接近ChatGPT免費版
  • MacBook Air M2 8GB:速度略慢,約每秒8-12 tokens,但依然可用
  • Mac mini M4 Pro 24GB:每秒25-30 tokens,幾乎無延遲

功能深入分析|不只是聊天那麼簡單

1. 本地隱私:資料完全在你的電腦

這是最吸引人的地方。所有模型運算都在本地完成,你的對話紀錄、上傳的文件,完全不會離開你的電腦。對於處理敏感資料的律師、醫生、金融從業人員來說,這簡直是救星。

香港的銀行業朋友告訴我,他們因為資料外洩風險,一直不敢用雲端AI。Nativ的出現,讓合規部門終於點頭。

2. 離線可用:沒有網路也能AI

你可以在飛機上、地鐵裡、郊外露營時,照樣使用AI。我試過在港鐵上用手機熱點分享給Mac,Nativ完全不受影響,因為它不需要網路。

3. 多模型支援:一個工具跑遍開源模型

Nativ不是只綁定一個模型。你可以隨時切換不同模型,針對不同任務選擇最合適的:

  • 寫程式用Qwen2.5-Coder系列
  • 一般對話用Llama 3.2
  • 輕量任務用Phi-3-mini(只有1.3GB)

4. 系統資源管理

Nativ會自動管理記憶體使用。當你切換到其他應用時,它會自動釋放資源。不像某些本地AI工具,一跑起來整個電腦就卡死。

我用MacBook Air 8GB測試,同時開Chrome(10個分頁)、VS Code、Nativ,系統依然順暢。但要注意,如果跑8B以上的模型,建議至少有16GB記憶體。

限制與缺點|不是萬能的神器

誠實地說,Nativ不是沒有缺點:

1. 模型大小限制

你的Mac記憶體決定你能跑多大的模型。8GB的MacBook Air只能跑7B以下的模型。而雲端服務可以跑70B、甚至更大的模型,能力差距明顯。

2. 速度不如雲端

即使是最快的M4 Pro,本地推理速度仍比不上GPT-4o或Claude 3.5 Sonnet。對於需要即時回覆的場景(如客服機器人),雲端還是比較適合。

3. 模型更新較慢

Nativ內建的模型庫更新速度比不上HuggingFace。最新發布的模型,通常要等一兩週才會上架。

4. 只支援Mac

目前只有macOS版本。Windows和Linux用戶只能看著流口水。不過開發者表示Windows版正在開發中。

價格比較|真的比較省錢嗎?

Nativ價格

  • 免費版:可以跑1B以下的模型,功能有限
  • Pro版:HK$98/月 或 HK$788/年(約HK$65.7/月)
  • 終身版:HK$1,888(一次付清)

雲端AI服務價格比較(每月)

  • ChatGPT Plus:HK$156/月(20美元)
  • Claude Pro:HK$156/月(20美元)
  • Gemini Advanced:HK$156/月(20美元)
  • GitHub Copilot:HK$78/月(10美元)

結論:如果你每天使用AI超過2小時,Nativ Pro年費(HK$788)比ChatGPT Plus(HK$1,872/年)便宜超過一半。而且Nativ是永久使用,不像雲端服務會漲價。

誰適合付費?

  • 重度使用者(每天3小時以上):年費方案划算
  • 企業用戶:終身版一次買斷,長期省更多
  • 隱私敏感行業:無價

誰該用Nativ?|實戰建議

推薦給:

  1. 程式設計師:本地跑Code Llama或Qwen2.5-Coder,寫程式不用擔心程式碼外洩
  2. 學生:沒有穩定網路時,Nativ是救命工具。而且免費版就夠用
  3. 隱私優先的專業人士:律師、會計師、醫生,處理客戶資料更安心
  4. Mac用戶:如果你已經有Mac,Nativ讓你的電腦升級成AI工作站

不推薦給:

  1. 需要最新最強模型的人:GPT-4o、Claude 3.5的能力,本地模型還追不上
  2. Windows/Linux用戶:目前不支援,等未來版本
  3. 輕度使用者:偶爾用AI查資料,免費的ChatGPT就夠了

延伸閱讀

最終評價|值得下載嗎?

總分:8.5/10

項目評分備註
安裝易用度9/10五分鐘搞定
速度表現8/10M1 Pro以上流暢
模型選擇7/10夠用但不夠新
隱私保護10/10滿分
價格9/10比雲端便宜

一句話總結:如果你有Mac、重視隱私、不想被月費綁架,Nativ是目前最好的本地AI方案。它不會取代ChatGPT,但會是你最可靠的AI備用方案。

立即行動:去Nativ官網下載免費版試試。先跑Llama 3.2 3B版本(約1.8GB),感受一下本地AI的魅力。如果滿意,再考慮升級Pro。

你準備好讓你的Mac變成AI工作站了嗎?