29/09/2026 03:30
美股動向｜英偉達推開源安全平台，監控AI代理防範越權行為
英偉達(US.NVDA)宣布推出開源安全平台「Open Agent Safety Platform」，該工具包旨在協助開發者監控及控制自主AI代理的權限範圍，防止人工智能系統出現越權操作。
新平台整合OpenShell運行時軟件與Sentry監控系統，透過部署於BlueField-4數據處理單元的架構設計，可實時追蹤AI代理行為模式。當系統偵測到代理違反預設規則時，將自動觸發終止程序。
技術方案採用雙核心架構：OpenShell負責管理AI代理的運行環境，Sentry則專注於行為分析與安全策略執行。英偉達強調，此組合能有效限制AI代理的數據存取範圍，並建立多層次防護機制。
公司特別指出，若此平台早前已部署，或可阻止Hugging Face近期發生的AI代理安全漏洞事件。該案例涉及未授權的AI代理操作，突顯業界對可控性解決方案的迫切需求。
作為開源項目，平台原始碼已按許可協議對外公開，開發者可自由審查、修改及部署。此舉被視為英偉達推動AI安全生態建設的重要舉措，同時強化其在企業級AI解決方案市場的技術話語權。
《經濟通通訊社29日專訊》