AI 安全 發佈於 2026年7月10日
企業 AI Agent 自主性飆升,驗證能力跟不上
VentureBeat 2026 年 6 月對 157 家符合條件的企業的 VB Pulse 調查顯示,半數企業曾部署過通過內部評估、卻仍導致用戶端失敗的 AI Agent 或 LLM 功能,其中四分之一經歷過不止一次。
調查還發現,66% 的企業已允許某些生產環境 AI 部署無需人工審核,或計劃在未來 12 個月內實現這一目標。然而,同一批受訪者中僅 5% 表示完全信任支撐這些決策的自動評估。
部署後的監控同樣薄弱:僅 23% 的企業會對 Agent 實際產出內容運行實時質量檢查,51% 只監控系統健康指標(如正常運行時間和請求鏈路)。
此外,CrowdStrike CEO George Kurtz 在 RSAC 2026 keynote 中指出,最快記錄的對手突破時間已降至僅 27 秒,平均突破時間則為 29 分鐘。AI Agent 自主性與安全團隊驗證、響應能力之間的差距,正成為核心治理挑戰。