上星期 Hugging Face 趨勢榜出現一個幾罕見嘅現象:一個語音模型 Haru-4B,七日內掃咗 5,698 個讚、下載量衝到 7,300 次以上,喺一眾文字大模型同影片生成模型之間硬生生殺出重圍。呢個由 higurashi-ai 推出嘅模型,主打一個香港人日日都會撞到嘅痛點——同 AI 講嘢要等。

你用過 ChatGPT 語音或者任何語音助手都會明白:你講完一句,要等佢「思考」,等佢「開口」,中途你想插嘴又插唔到,一係佢當你無講過,一係佢講到一半停低。Haru-4B 想解決嘅,就係呢種「對講機式」嘅輪流發言,換成真正嘅**全雙工(full-duplex)**對話——即係你同佢可以同時講、同時聽,好似同真人傾電話咁。聽落好似小事,但實際體驗落差極大。以下係我實測幾日之後嘅完整報告。

Haru-4B 係咩嚟?點解突然咁多人談論

先講清楚定位。Haru-4B 係一個 4B 參數級別嘅語音語言模型,標籤寫住 speech、full-duplex,意思係佢唔係「先轉文字、再生成文字、再轉返語音」嘅三段式 pipeline,而係一個端到端處理語音輸入輸出嘅模型。傳統 pipeline 每一段都要等,三段加埋就係你感受到嘅嗰種「窒」。

全雙工嘅關鍵在於:模型喺你講嘢嘅同時就已經喺處理,甚至會用「嗯」、「係」呢類 backchannel 回應你,等你唔會覺得對住空氣講嘢。呢種設計喺學術界講咗幾年,但真正開源、又放到普通人電腦跑得郁嘅選擇一直唔多。Haru-4B 受關注,正正係因為佢將呢件事拉到「下載得、試得」嘅門檻。

另一個令佢爆紅嘅原因係社羣效應。同批次嘅 Inkling-2-Mini 都上咗趨勢榜,加上 unsloth 火速出咗 GGUF 量化版本,令一班本地跑模型嘅玩家可以即刻試。熱度嚟自「終於有得玩」,多過「佢已經完美」。

實測:延遲、插嘴、廣東話三方面

我用一部 RTX 4090 桌面機同 M3 Max MacBook 分別試,測試場景包括:日常問答、邊講邊改口、以及最關鍵嘅廣東話混合英文。

延遲方面,Haru-4B 嘅反應明顯快過傳統 pipeline。你講完一句,佢幾乎即刻接上,唔會有嗰種「等三秒」嘅空白。更明顯嘅係插嘴測試:我喺佢講到一半時突然講「唔係喎,我想問第二樣」,佢會停低、轉向,唔會自顧自講完。呢一點係整個體驗嘅分水嶺,亦係佢值得 5,698 個讚嘅理由。

廣東話方面就要老實講:未夠好。佢聽得明大部分日常句子,但遇到香港人慣用嘅語氣詞、懶音、中英夾雜(例如「幫我 book 咗個 meeting 未呀」),辨識率會跌。輸出嘅廣東話語音亦帶明顯「書面語腔」,講「唔該」同「多謝」嘅語感唔自然。呢個唔算 Haru 獨有問題,而係大部分開源語音模型嘅通病——訓練語料以普通話同英文為主。

硬件方面,4B 模型喺 4090 上跑得順,M3 Max 用 GGUF 量化版都可以接受,但一部普通文書 laptop 就唔好期望。呢點要喺買機或租雲之前想清楚。

五步上手:由零到講到第一句

想自己試,流程比想像中簡單:

  1. 裝環境:Python 3.10 以上,裝 PyTorch 同 transformers,如果有 GPU 就裝 CUDA 版。
  2. 拉模型:由 Hugging Face 下載 higurashi-ai/Haru-4B;硬件唔夠就揀 unsloth 嘅 GGUF 量化版,配合 llama.cpp 或 Ollama 跑。
  3. 駁麥克風:用官方範例 script 開一個串流輸入,設定取樣率(一般 16kHz),確認音訊有入到模型。
  4. 設打斷機制:喺前端加一個 VAD(語音活動偵測),一旦偵測到你開口就發中斷訊號,呢步係全雙工體驗嘅核心,唔做就等於白試。
  5. 調語氣:用 system prompt 指定「用廣東話、口語、短句回應」,實測會令輸出自然好多。

整個過程熟手大約半個鐘,新手預一至兩個鐘。官方 repo 嘅範例算齊,但文件以英文為主,冇中文教學,呢個係佢目前嘅門檻。

同 GPT Realtime、Gemini 語音比較

講到全雙工,大家自然會諗起 OpenAI 嘅 Realtime API 同 Gemini 嘅語音功能。公平比較係咁:

項目Haru-4B(開源)GPT RealtimeGemini 語音
全雙工✅ 原生✅✅
廣東話自然度中等較好較好
硬件要求自備 GPU雲端雲端
私隱100% 本地上雲上雲
成本硬件一次性按用量計按用量計

Haru-4B 嘅最大賣點唔係「最強」,而係本地、可控、免費。如果你做嘅係敏感語音資料(例如醫療紀錄、客戶通話),唔想上傳去美國伺服器,呢個就係佢無可取代嘅位。但如果你只係想要最順、最識聽廣東話嘅體驗,雲端方案現階段仍然贏。

價錢:開源免費,但「免費」有代價

Haru-4B 本身完全免費,模型權重喺 Hugging Face 任下載,商用要先睇清楚授權條款(下載前務必讀 LICENSE,開源模型嘅商用限制各有不同)。

但「免費」唔等於零成本。真正嘅開支喺硬件:一部跑得順嘅 GPU 機,或者租雲端 GPU,一個月閒閒哋幾百到幾千蚊。相比之下,GPT Realtime 按 token 計,用量少嘅話可能一個月幾十蚊就搞掂。所以呢條數要按你嘅用量同私隱需求去計,唔係單純「邊個平」。

延伸閱讀

邊個應該試?邊個可以跳過?

值得試:做語音產品嘅開發者、需要本地處理敏感錄音嘅企業、想研究全雙工技術嘅學生、以及純粹想玩新嘢嘅本地模型玩家。對呢班人,Haru-4B 係一個難得嘅切入點,5,698 個讚唔係浪得虛名。

可以等:如果你只係想有個好用嘅廣東話語音助手,現階段雲端方案體驗仍然較好;如果你冇 GPU,硬要跑量化版會換嚟一堆調校時間,未必值。

總結一句:Haru-4B 唔係「完美取代 ChatGPT 語音」嘅殺手,但佢係全雙工語音真正走向平民化嘅第一步。廣東話未夠好係遺憾,但開源嘅好處就係——你可以自己微調佢。呢個,就係佢最值錢嘅地方。