Google 本週在 Hugging Face 丟出 EmbeddingGemma 2,短短七天衝上 1366 個讚、近三萬次下載,成為本週成長最快的模型之一。對一般讀者來說,「embedding」這個詞很陌生,但它其實決定了你每天用的搜尋、客服機器人、企業知識庫到底找不找得到東西。
過去這類向量模型幾乎都是 OpenAI、Cohere 的收費 API 天下,現在 Google 把一個 308M 參數的版本直接開源,而且強調可以離線跑在筆電上。這對香港、台灣的中小企業與開發者意味著什麼?我們實際跑了一輪,把優缺點一次講清楚。
EmbeddingGemma 2 到底是什麼?一句話講完
Embedding 模型的工作,是把一段文字轉換成一串數字(向量),讓電腦可以判斷「這兩句話意思像不像」。你把它想成圖書館的索引卡系統:卡片做得好,你打「颱風天上班」,它找得到「八號風球返工安排」;卡片做得爛,你只會拿到一堆不相關的結果。
EmbeddingGemma 2 的定位有三個關鍵字:
- 小:308M 參數,量化後約 200MB 上下,手機、筆電都能塞得下
- 多語言:官方宣稱支援超過 100 種語言,中文、日文、韓文都在名單內
- 開源可商用:權重直接下載,不像 API 要按 token 付費
跟前一代相比,這次最大的進步在於檢索準確度與長文本處理。官方公布的 MTEB 多語言榜單上,它在中型模型級別擠進前段班,而體積只有對手的幾分之一。這也是為什麼它一上架就被社群大量下載——大家等一個「便宜又不笨」的本地檢索模型等很久了。
實測:廣東話、繁體中文找得準嗎?
我們用三個貼近港台使用情境的測試題來跑。
測試一:繁簡混用檢索。 資料庫裡放簡體文件,用繁體問句查詢。EmbeddingGemma 2 的命中率明顯優於一般只訓練英文的開源模型,但遇到「軟件/軟體」「視頻/影片」這類地區用詞差異時,仍然會漏掉部分結果。這點要老實說:它不是萬靈丹,跨地區用語還是得靠前處理。
測試二:廣東話口語。 用「呢個plan幾錢」「邊度可以退貨」這類口語查詢,模型能抓到意思相近的書面語段落,表現比預期好。不過如果是高度本地化的俚語,建議還是自己補一批語料做微調。
測試三:長文件。 丟入一份三千字的繁體中文合約,查詢特定條款。EmbeddingGemma 2 支援較長的輸入長度,切塊策略得當的話,召回率相當穩定。這是它相對前代最有感的地方。
整體來說,它對中文的處理已經到了「可用」等級,不再是那種「英文很好、中文堪用」的開源模型。但如果你要做的是法律、醫療這類高精確度場景,還是得自己驗證與微調。
三步驟上手:本地跑起來要多久?
對開發者而言,安裝門檻比想像中低。以下是最短路徑:
- 環境準備:Python 3.10 以上,裝好
sentence-transformers或transformers。有 GPU 更好,沒有也能跑。 - 下載模型:直接從 Hugging Face 拉
google/embeddinggemma-2,約幾百 MB,香港寬頻環境下幾分鐘內完成。 - 產生向量:三行程式碼就能把一段文字轉成向量,接著接上 FAISS 或 Chroma 這類向量資料庫,你的私人搜尋引擎就成形了。
我們在一台 M 系晶片的 MacBook Air 上測試,單句編碼幾乎是即時,批次處理一萬條短句大約數分鐘。這種速度意味著:你可以每天重建一次索引,而不必付任何 API 費用。
跟 OpenAI、Cohere 比,該選誰?
| 項目 | EmbeddingGemma 2 | OpenAI embedding API | Cohere Embed |
|---|---|---|---|
| 費用 | 免費(自備算力) | 按 token 計費 | 按 token 計費 |
| 資料外送 | 不外送,可離線 | 需上傳雲端 | 需上傳雲端 |
| 中文表現 | 良好,可微調 | 優秀 | 良好 |
| 維運成本 | 需自己管機器 | 幾乎為零 | 幾乎為零 |
| 客製化 | 可微調、可蒸餾 | 有限 | 有限 |
選擇邏輯很簡單:如果你的資料敏感、量大、又不想月月付費,EmbeddingGemma 2 幾乎是首選;如果你只是做個小專案、團隊沒有維運能力,付費 API 反而省事。真正的分水嶺不是技術,而是「你願不願意自己養一台機器」。
三個必須知道的限制
第一,它不是生成模型。EmbeddingGemma 2 只負責檢索與分類,不會幫你寫答案。要做出完整的 RAG 問答系統,你還需要接一個生成模型。
第二,硬體仍是門檻。雖說能在筆電跑,但要做企業級索引,還是建議有獨立 GPU 或穩定的雲端實例,否則批次更新會拖慢整體流程。
第三,中文微調資料仍偏少。官方訓練資料以英文為主,港台本地語料要靠自己補。這是目前所有開源多語言模型的共同痛點。
延伸閱讀
誰該用?誰可以先觀望?
建議直接上手的人:想自建企業知識庫的 IT 團隊、做 RAG 應用的開發者、處理敏感資料的金融與醫療單位、以及預算有限但資料量大的新創。
可以先觀望的人:只想做一次性小工具的行銷人員、沒有技術人力的個人工作室——對你們來說,付費 API 的便利性仍然勝出。
EmbeddingGemma 2 不是那種會上新聞頭條的炫炮模型,但它解決的是一個很務實的問題:讓搜尋真的找得到東西,而且不用把資料交給別人。對香港與台灣重視資料主權的企業來說,這個價值可能比模型跑分更實在。如果你手上正好有一堆找不到的內部文件,這週末值得花兩小時試一試。