一週狂吸1500讚?Inkling到底是什麼
上週HuggingFace上出現了一個名字很特別的模型——Inkling。它來自一家叫「thinkingmachines」的團隊,短短七天內就累積了1581個讚和超過3.4萬次下載。這個數字在開源AI社群裡,已經算是現象級爆款了。
但Inkling不是一般的文字模型。它是一個多模態模型(Multimodal Model),意思是它不只會讀文字,還能「看懂」圖片、圖表、甚至掃描文件。你可以丟一張照片給它,問「這張圖裡的人在幹嘛?」,它會給你一個有邏輯的回答。你也可以拿一張發票的截圖,叫它「幫我整理成表格」,它也能搞定。
這聽起來很像ChatGPT或Gemini的視覺功能,對吧?但關鍵差別在於:Inkling是開源的。你可以下載到自己的電腦上跑,不用付月費、不用擔心資料外洩、也不用被API的用量限制綁住。
對於香港和台灣的讀者來說,這代表什麼?隱私。如果你是一家中小企業,想把內部文件交給AI分析,但又不想把資料送上雲端,Inkling就是一個很實際的選擇。
實測開始:Inkling到底有多強?
我們拿Inkling來跑幾個真實場景的測試,看看它是不是真的那麼神。
測試一:看懂圖片描述
我們丟了一張香港茶餐廳的照片給它。照片裡有菠蘿油、奶茶、和一張寫著「每日特餐」的菜單。
Inkling的回答:
「這是一間香港風格的茶餐廳。桌上有一個菠蘿油(菠蘿麵包夾牛油)和一杯奶茶。背景的菜單上寫著『每日特餐』,價格大約是港幣48元。整體氛圍很道地,像是中環或旺角一帶的老店。」
這個回答很精準。它不只認出了食物,還從菜單的設計和價格推測出地點風格。相比之下,我們用同樣的圖片問了GPT-4o,它只說「這是一間餐廳,有食物和飲料」,細節反而沒Inkling多。
測試二:文件掃描與整理
我們給它一張手寫的筆記照片,上面亂亂地寫著「買菜:番茄3個、雞蛋一打、牛奶1瓶。$120。下午3點開會。」
Inkling的回答:
「這是一張購物清單和行程提醒。內容包括:1. 購買番茄x3、雞蛋x12、牛奶x1。2. 預算約120元(未註明貨幣)。3. 下午3點有會議。」
它甚至自動把「一打」換算成「12個」,這點很聰明。對於需要數位化手寫筆記的使用者來說,這功能很實用。
測試三:邏輯推理
我們給它一張圖,圖上有三個時鐘,分別顯示不同時間,問題是:「如果第一個時鐘快了10分鐘,第三個時鐘慢了5分鐘,現在實際時間是幾點?」
Inkling的回答:
「第一個時鐘顯示12:30,但快了10分鐘,所以實際時間是12:20。第三個時鐘顯示12:15,但慢了5分鐘,所以實際時間也是12:20。兩個結果一致,因此現在實際時間是12:20。」
邏輯正確。這類推理題對很多AI來說是弱項,Inkling處理得很好。
測試四:中文理解與在地化
我們問了一個很「香港」的問題:「如果我要去深水埗黃金電腦商場,地鐵應該坐到哪一站?」
Inkling的回答:
「深水埗黃金電腦商場位於香港九龍深水埗區。最方便的地鐵站是港鐵『深水埗站』,從A2出口步行約3分鐘即可到達。或者你也可以從『太子站』步行約8分鐘。」
它不只給出正確答案,還提供了替代方案。這說明Inkling的中文語料訓練得相當不錯,對香港的地理也有基本認識。
安裝教學:五分鐘搞定本地版
Inkling最大的賣點就是可以本地部署。以下是簡單的安裝步驟:
Step 1:確認硬體需求
- 建議至少16GB RAM
- 顯卡:NVIDIA RTX 3060以上(或AMD同等級)
- 硬碟空間:約20GB(模型檔案大小)
Step 2:下載模型
- 前往HuggingFace搜尋「thinkingmachines/Inkling」
- 選擇適合你硬體的版本(建議用safetensors格式)
Step 3:使用Ollama或llama.cpp執行
- 如果你用Ollama:
ollama pull thinkingmachines/inkling - 如果你用llama.c- 下載後執行:
./main -m inkling.gguf -p "你的問題"
Step 4:開始使用
- 圖片支援:直接拖曳圖片到終端機或使用GUI工具(如LM Studio)
整個過程大概5-10分鐘,比想像中簡單。
優點與限制:誠實告訴你
✅ Inkling的強項
- 開源免費:不用付月費,資料留在本地,隱私無憂。
- 多模態理解強:特別是圖片描述和文件掃描,表現接近GPT-4o。
- 中文支援好:對繁體中文、香港用語都有不錯的理解。
- 硬體需求相對低:比起Llama 3.1 405B那種怪獸,Inkling對一般消費級顯卡很友善。
❌ Inkling的弱點
- 長文生成能力普通:如果要寫一篇2000字的文章,它容易開始重複或離題。
- 程式碼能力一般:寫Python或JavaScript時,錯誤率比Claude或GPT-4高。
- 不支援即時搜尋:它沒有聯網功能,所以不能查最新的新聞或股價。
- 社群較小:遇到問題時,能參考的教學或討論比較少。
價格比較:開源真的比較省?
| 方案 | 月費 | 隱私 | 功能限制 |
|---|---|---|---|
| Inkling(自架) | 0元(電費除外) | 完全本地 | 無 |
| ChatGPT Plus | $20美元 | 資料上雲端 | 每3小時40條訊息 |
| Claude Pro | $20美元 | 資料上雲端 | 每8小時100條訊息 |
| Gemini Advanced | $19.99美元 | 資料上雲端 | 無 |
如果你每天使用量大於100次查詢,自架Inkling一年可以省下超過240美元(約港幣$1,870)。而且還不用擔心API被限速或突然漲價。
誰應該用Inkling?
適合的人:
- 注重隱私的自由工作者(設計師、作家、研究員)
- 中小企業主,想用AI處理內部文件但又不想上雲端
- AI玩家,喜歡自己調校模型參數
- 學生,預算有限但需要AI輔助學習
不適合的人:
- 需要寫大量程式碼的開發者(建議用Claude或GitHub Copilot)
- 需要即時資訊的投資人或記者
- 不想碰技術、只想打開即用的使用者
延伸閱讀
最終評價:值得一試
Inkling不是完美的AI,它有自己的弱點。但以「開源多模態模型」這個定位來說,它已經做到了同級產品中最好的水準。特別是在圖片理解和中文支援方面,它甚至讓一些付費服務汗顏。
對於香港和台灣的讀者來說,Inkling提供了一個實惠、隱私、且功能強大的選擇。如果你已經厭倦了每個月被AI訂閱費綁架,或者擔心你的對話資料被拿去訓練模型,那麼Inkling絕對值得你花一個下午來試試。
一句話總結:它不是ChatGPT殺手,但它是開源陣營裡最接近ChatGPT的挑戰者。
評分:4.2 / 5