代理狂買算力|財務長崩潰了

過去兩年,企業談AI投資回報率,問的多半是「這個工具幫我省了多少人力」。但2026年下半年開始,一個更棘手的問題浮上檯面:當AI從「工具」變成「代理」(agent),它會自己決定要呼叫幾次模型、跑幾輪推理、開幾個子任務——而每一次決定,都在燒錢。

矽谷已有中大型企業的財務部門私下抱怨,季度雲端帳單裡出現一筆「說不清用途」的AI推理費用,金額是去年同期預算的三到五倍。問題不在於AI沒做事,而在於它做的事太多、太細、太難歸因。

從「按人頭計費」到「按思考次數計費」

傳統SaaS的計費邏輯很單純:一個席位多少錢,用不用得到是你家的事。但代理型AI徹底打破這個模型。

一個代理要完成「幫我把這季的客戶投訴分類並草擬回覆」這個任務,背後可能是:先呼叫一次視覺模型讀取截圖、再用語言模型做意圖分類、接著檢索內部知識庫、最後生成三段草稿並自我審查兩輪。整個流程可能觸發十五到四十次模型呼叫,每次呼叫的token數、模型等級、是否走快取,全都不同。

更麻煩的是,代理會「重試」。當它判斷第一次生成的結果不夠好,它會自己再跑一輪——這個「自我修正」的機制,正是代理型AI的價值所在,卻也是帳單失控的主因。

根據多家雲端服務商2026年第三季釋出的企業用量觀察,代理型工作負載的平均單次任務成本,是傳統對話式AI的八到十二倍。而企業在導入前的預算評估,通常只抓了三到四倍。

香港台灣企業的具體痛點

這個問題在港台市場特別明顯,原因有三。

第一,多數企業沒有token級別的觀測能力。 香港一家中型保險公司的IT主管透露,他們導入代理處理理賠初審後,第一個月帳單從預估的八萬港幣衝到二十七萬,但內部沒人能指出是哪個環節吃掉預算。事後追查才發現,代理在處理掃描模糊的文件時,會反覆呼叫視覺模型重試,單一案件最多觸發十九次。

第二,代理的「勤奮」被誤認為「效能」。 台灣一家電子零組件廠把代理接進ERP查詢流程,原本期待減少人工調閱時間。結果代理為了「確保答案完整」,每次都把整張資料表拉進來做上下文,導致token用量是實際所需的六倍以上。工程團隊後來改用檢索增強生成(RAG)架構,把上下文壓縮到原本的12%,單筆查詢成本從0.42美元降到0.05美元。

第三,採購部門與工程部門的KPI不一致。 工程團隊的目標是「任務成功率」,財務團隊的目標是「單位成本」。當代理的成功率從82%提升到94%時,成本可能同時翻了一倍——而這個交換是否值得,多數企業根本沒有坐下來算過。

四層審計框架:把黑箱變成報表

要解決這個問題,不是叫停代理,而是建立成本可觀測性。綜合幾家已導入代理型AI的港台企業做法,可以歸納出四個層次:

第一層:任務級歸因。 每一次代理啟動,都要綁定一個業務標籤(例如「理賠初審」「客服草稿」),並記錄該任務的總token消耗與模型呼叫次數。這是最基本的,卻有超過六成企業沒做。

第二層:重試率監控。 統計代理平均重試幾次才收斂。健康的代理重試率應低於1.4次;若超過2.5次,通常代表提示詞設計或檢索品質有問題,而非任務太難。

第三層:模型分級路由。 不是每個子任務都需要最強的模型。把「分類」「抽取」這類工作交給小模型,只把「生成」「推理」留給大模型,實測可降低四成到六成的推理成本。台灣已有團隊用這招,把月帳單從十九萬台幣壓到八萬。

第四層:預算熔斷機制。 為每個代理設定單日或單任務的成本上限,超過就自動降級或暫停。這聽起來很粗暴,但香港一家物流平台導入後,意外發現有3%的代理任務是「殭屍迴圈」——因為API回傳格式異常,代理陷入無限重試,一個晚上燒掉兩萬港幣。

這不是省錢問題,是治理問題

把視角拉高一點,代理型AI的成本失控,本質上是企業治理跟不上技術速度的縮影。

過去企業買軟體,IT部門審核、財務部門編預算、採購部門簽約,流程清楚。但代理型AI是「用完才知道多少錢」,而且金額會隨著使用者的提示詞品質、資料整潔度、任務複雜度而劇烈波動。這意味著預算制度本身需要改寫——從「年度固定預算」轉向「浮動上限+即時監控」。

對香港與台灣的企業來說,還有一個在地優勢可以利用:兩地都有成熟的雲端成本管理服務商與系統整合商,能把上述四層框架做成客製化儀表板。與其自己從零打造,不如把這塊交給本地夥伴,把工程資源留給代理的業務邏輯設計。

延伸閱讀

給還在觀望的企業的三個建議

如果你正準備導入代理型AI,或已經導入但帳單開始失控,這三件事值得先做:

一、先量測,再優化。 沒有任務級歸因,所有優化都是猜測。花兩週把觀測層建起來,你會發現八成成本來自兩成的任務類型。

二、把「重試」當成一級指標。 它同時反映技術品質與成本效率,是代理健康度最靈敏的溫度計。

三、讓財務部門參與代理設計。 不是事後審帳,而是在設計階段就一起決定「這個任務值得花多少錢」。這聽起來違反直覺,但實測能讓代理的投報率評估從「說不清」變成「算得出」。

代理型AI的價值毋庸置疑,它讓自動化從「照指令做事」進化到「自己判斷怎麼做事」。但這份自主性是有價格的,而且價格標籤藏在每一次模型呼叫裡。能不能把這個標籤翻出來看清楚,將決定2027年哪些企業的AI投資是真的回本,哪些只是帳單上的數字。