調查：1/4企業抓不到未授權AI代理人，逾三成已因AI事故受創

根據外媒報導，安永（EY）美國近日公布最新《AI風險與治理調查》（AI Risk and Governance Survey），針對202位年營收超過10億美元企業的高階AI決策主管進行調查。結果顯示，企業導入自主AI（agentic AI）的速度，已明顯超前既有治理框架的更新腳步，其中四分之一企業坦言，內部已無法偵測未經授權運作的AI代理人，另有超過三成企業表示，已因AI事故或失靈而遭受實質損害。

調查指出，91%受訪企業已採用自主AI，無論是試行階段或全面部署。然而，在這些企業中，49%坦言既有治理框架尚未針對自主AI的特性與風險進行更新，85%則表示，至少有部分AI系統已在無即時人類介入的情況下自行執行行動，範圍涵蓋威脅偵測到程式碼執行等關鍵任務。

安永美洲鑑證部技術風險AI負責人John McLain指出，自主AI最大的風險，在於人類監督機制並未同步演進。AI治理提供必要的防護欄，讓企業能在不失控的前提下加速前進，尤其當自主AI已經在做出真實的商業決策時。

隨著自主AI規模擴大，企業內部的可視性缺口也隨之浮現。調查顯示，在已採用自主AI的企業中，26%坦承組織內部無法偵測未經授權運作的AI代理人，形同企業內部出現一批看不見的AI員工，脫離既有治理與監控機制之外。

這樣的落差並非個案。整體受訪者中，47%表示組織過去曾在急迫的部署需求下，未依循既有AI治理流程行事，另有近七成受訪者（69%）擔憂內部缺乏足夠專業人力，能有效演進治理管控機制。

安永調查同時發現，過去一年內，89%受訪者曾遭遇AI相關風險，包括資安風險（52%）、人為風險（47%）與影子AI風險（46%）。這些風險已轉化為實際損害，36%受訪企業表示，組織曾發生AI事故或失靈，並造成資料遺失、財務損失、營運中斷或品牌信譽受損等實質衝擊。

面對風險升溫，企業也開始加強稽核。調查顯示，98%受訪企業每年至少執行一次正式AI保證評估（AI assurance review），而在執行過稽核的企業中，64%因此大幅修改了四分之一以上的AI系統，25%則完全停用了四分之一以上的AI系統。稽核最常揪出的問題包括資料品質不佳（57%）、AI模型飄移（48%）與影子AI（39%）。

安永美洲鑑證部技術長暨全球與美洲鑑證AI負責人Richard Jackson表示，企業正在用昨天的治理規則，因應今天與AI的互動。稽核之所以能持續找出問題，並促成系統修改、暫停或停用，正說明AI治理與稽核機制在真正落實時是有效的，企業需要將這些機制內建到AI系統的設計、測試與治理流程中。

本文轉載自 DarkReading。