企業廣泛採用Claude Code和Codex等AI程式開發代理工具，卻開始面臨意外暴增的帳單。法新社
企業廣泛採用Claude Code和Codex等AI程式開發代理工具，卻開始面臨意外暴增的帳單。這類工具可自動連續工作數小時，反覆呼叫先進模型，在使用者不知不覺間耗用數百萬個詞元。
《財星》（Fortune）報導，一項最新調查顯示，62%機構過去一年曾因預料之外的AI費用，實質改變經營決策；其中40%須呈報董事會，33%緊急凍結支出，25%延後或取消AI計畫。
為控制成本，AI模型調度工具（model router）迅速受到企業青睞。這類軟體可依工作內容，在價格、速度和效能之間選擇適合的模型，不必所有工作都採用最昂貴的先進模型，推論成本最多可降低約三成。
OpenRouter、Not Diamond和LiteLLM等新創公司相繼投入，Salesforce、Databricks、Meta及Cursor也在發展相關工具。
業者指出，這種模型調度功能未來不只用來節省支出，也可管理資料存取、法遵及單一供應商風險。不過，建立可靠系統並不容易，必須持續監控大量模型連線、處理服務中斷及規格變動，並核對資料政策和硬體設定。
2026/08/10 09:19
轉載自聯合新聞網: https://udn.com/news/story/6811/9681197?from=udn-ch1_breaknews-1-99-news
Post gallery
