營運長暨發言人蔣志薇表示，全球主權AI市場快速成長，公部門對資料落地與資安治理的需求日益升高，《KEYLM》採用NVIDIA軟硬整合架構，同時填補繁體中文長期在國際AI訓練資料中相對弱勢的缺口，協助政府機關以真正理解台灣在地語境的AI模型，解決知識分散、人工彙整費時、資料不得上雲三大課題。
我國政府單位長期面臨各機關知識分散於公文、會議紀錄、報表與答詢稿之間，臨時備詢與政策說明往往耗費大量人工查找；同時，人工彙整品質不一、時效有限。同時，政府機敏資料不得外傳上雲，必須於地端運行、資料不出域，且回答可溯源、過程可稽核。一套真正理解台灣在地語境的AI模型，正是繁體中文長期在全球AI訓練資料中相對弱勢的現實所在。
大數據公司BIG10即是針對此一缺口所建立的領域語言模型。而智慧幕僚也能在上述資安前提下，整合機關內部文件、業務資料與外部輿情，提供即問即答、即時產報、輿情感知與知識治理四項能力，將政府的知識從人工翻找，升級為AI即問即答的決策支援。
《KEYLM》是一套涵蓋平台、模型與硬體三個層次的軟硬整合解決方案。平台層為KEYLM Agent Platform，是企業與政府內部的AI數據中台，具備四層系統架構、知識庫管理、可溯源的RAG問答、Agent工作流、長期記憶，以及權限治理與用量管理；其Agent治理採用NVIDIA NeMo Agent Toolkit，用於建置、運行與優化AI Agent 工作流，提供效能剖析、可觀測性與評估，讓Agent行為可追蹤、可評估、可稽核，並於工作流層級降低大型語言模型呼叫次數、token用量與整體延遲。
市面多數企業AI方案需要可觀的伺服器與機房投入，《KEYLM》則將一套AI代理智慧幕僚所需的完整能力，收斂於一台桌邊大小的DGX Spark之中，一台機器即可承載一個機關的智慧幕僚。大數據公司指出，將持續以既有數據資產與技術研發能量為基礎，採用NVIDIA等業界主流技術架構，加速AI解決方案的落地速度。
2026/07/24 11:28
轉載自中時新聞網: https://www.chinatimes.com/realtimenews/20260724001971-260410
Post gallery
