Google 本週在 Hugging Face 丟出 EmbeddingGemma 2,短短七天衝上 1366 個讚、近三萬次下載,成為本週成長最快的模型之一。對一般讀者來說,「embedding」這個詞很陌生,但它其實決定了你每天用的搜尋、客服機器人、企業知識庫到底找不找得到東西。

過去這類向量模型幾乎都是 OpenAI、Cohere 的收費 API 天下,現在 Google 把一個 308M 參數的版本直接開源,而且強調可以離線跑在筆電上。這對香港、台灣的中小企業與開發者意味著什麼?我們實際跑了一輪,把優缺點一次講清楚。

EmbeddingGemma 2 到底是什麼?一句話講完

Embedding 模型的工作,是把一段文字轉換成一串數字(向量),讓電腦可以判斷「這兩句話意思像不像」。你把它想成圖書館的索引卡系統:卡片做得好,你打「颱風天上班」,它找得到「八號風球返工安排」;卡片做得爛,你只會拿到一堆不相關的結果。

EmbeddingGemma 2 的定位有三個關鍵字:

  • 小:308M 參數,量化後約 200MB 上下,手機、筆電都能塞得下
  • 多語言:官方宣稱支援超過 100 種語言,中文、日文、韓文都在名單內
  • 開源可商用:權重直接下載,不像 API 要按 token 付費

跟前一代相比,這次最大的進步在於檢索準確度與長文本處理。官方公布的 MTEB 多語言榜單上,它在中型模型級別擠進前段班,而體積只有對手的幾分之一。這也是為什麼它一上架就被社群大量下載——大家等一個「便宜又不笨」的本地檢索模型等很久了。

實測:廣東話、繁體中文找得準嗎?

我們用三個貼近港台使用情境的測試題來跑。

測試一:繁簡混用檢索。 資料庫裡放簡體文件,用繁體問句查詢。EmbeddingGemma 2 的命中率明顯優於一般只訓練英文的開源模型,但遇到「軟件/軟體」「視頻/影片」這類地區用詞差異時,仍然會漏掉部分結果。這點要老實說:它不是萬靈丹,跨地區用語還是得靠前處理。

測試二:廣東話口語。 用「呢個plan幾錢」「邊度可以退貨」這類口語查詢,模型能抓到意思相近的書面語段落,表現比預期好。不過如果是高度本地化的俚語,建議還是自己補一批語料做微調。

測試三:長文件。 丟入一份三千字的繁體中文合約,查詢特定條款。EmbeddingGemma 2 支援較長的輸入長度,切塊策略得當的話,召回率相當穩定。這是它相對前代最有感的地方。

整體來說,它對中文的處理已經到了「可用」等級,不再是那種「英文很好、中文堪用」的開源模型。但如果你要做的是法律、醫療這類高精確度場景,還是得自己驗證與微調。

三步驟上手:本地跑起來要多久?

對開發者而言,安裝門檻比想像中低。以下是最短路徑:

  1. 環境準備:Python 3.10 以上,裝好 sentence-transformers 或 transformers。有 GPU 更好,沒有也能跑。
  2. 下載模型:直接從 Hugging Face 拉 google/embeddinggemma-2,約幾百 MB,香港寬頻環境下幾分鐘內完成。
  3. 產生向量:三行程式碼就能把一段文字轉成向量,接著接上 FAISS 或 Chroma 這類向量資料庫,你的私人搜尋引擎就成形了。

我們在一台 M 系晶片的 MacBook Air 上測試,單句編碼幾乎是即時,批次處理一萬條短句大約數分鐘。這種速度意味著:你可以每天重建一次索引,而不必付任何 API 費用。

跟 OpenAI、Cohere 比,該選誰?

項目EmbeddingGemma 2OpenAI embedding APICohere Embed
費用免費(自備算力)按 token 計費按 token 計費
資料外送不外送,可離線需上傳雲端需上傳雲端
中文表現良好,可微調優秀良好
維運成本需自己管機器幾乎為零幾乎為零
客製化可微調、可蒸餾有限有限

選擇邏輯很簡單:如果你的資料敏感、量大、又不想月月付費,EmbeddingGemma 2 幾乎是首選;如果你只是做個小專案、團隊沒有維運能力,付費 API 反而省事。真正的分水嶺不是技術,而是「你願不願意自己養一台機器」。

三個必須知道的限制

第一,它不是生成模型。EmbeddingGemma 2 只負責檢索與分類,不會幫你寫答案。要做出完整的 RAG 問答系統,你還需要接一個生成模型。

第二,硬體仍是門檻。雖說能在筆電跑,但要做企業級索引,還是建議有獨立 GPU 或穩定的雲端實例,否則批次更新會拖慢整體流程。

第三,中文微調資料仍偏少。官方訓練資料以英文為主,港台本地語料要靠自己補。這是目前所有開源多語言模型的共同痛點。

延伸閱讀

誰該用?誰可以先觀望?

建議直接上手的人:想自建企業知識庫的 IT 團隊、做 RAG 應用的開發者、處理敏感資料的金融與醫療單位、以及預算有限但資料量大的新創。

可以先觀望的人:只想做一次性小工具的行銷人員、沒有技術人力的個人工作室——對你們來說,付費 API 的便利性仍然勝出。

EmbeddingGemma 2 不是那種會上新聞頭條的炫炮模型,但它解決的是一個很務實的問題:讓搜尋真的找得到東西,而且不用把資料交給別人。對香港與台灣重視資料主權的企業來說,這個價值可能比模型跑分更實在。如果你手上正好有一堆找不到的內部文件,這週末值得花兩小時試一試。