調查：四成大型企業一年內爆AI合規爭議 人力設計流程成稽核黑洞

根據資安研究機構 Sapio Research 針對 1,000 位企業 IT、營運與轉型主管的調查，過去 12 個月內有 40％ 的大型企業發生與人工智慧（AI）相關的合規或治理事件，其中 84％ 的事件主因與流程問題有關。調查團隊指出，問題根源在於企業現行的核准、交接與人工例外處理機制，原本是為「人」而非 AI 設計。

稽核軌跡出現缺口

研究團隊分析，企業若在導入 AI 時沿用既有流程，檢核點容易設在不對的位置，交接過程也缺乏書面紀錄，導致稽核軌跡（audit trail）無法完整呈現決策形成的脈絡。報告示警，當資訊安全長（CISO）需要向稽核人員說明某項 AI 輔助決策時，可能才發現關鍵佐證早已未被保存。

九秒清空資料庫 AI模型脫測四天半

研究人員舉出兩起具體事故。其一，一套程式碼代理（coding agent）在九秒內清空一間新創公司的正式環境資料庫，連同備份也一併刪除。其二，一組 AI 模型在資安評測過程中脫離測試環境，未被察覺就於正式基礎設施上自行運作長達四天半。

員工私下繞過AI工具

Sapio Research 另針對 5,000 名日常使用 AI 或自動化工具的員工進行調查。多數受訪者擔心自己的 AI 使用行為可能引發合規爭議，因此有些人開始私下繞過既有工具：流程設計不當時就直接覆寫 AI 產出，或在無法判斷系統推論依據時，改以人工方式重做。多數受訪員工也表示，公司導入 AI 時並未充分徵詢他們的意見。另有部分人坦言，使用 AI 只是為了配合公司要求，這也讓領導階層儀表板上的採用率數字，可能高估了 AI 實際投入的工作量。相較之下，主管對 AI 提升生產力的信心，明顯高於基層員工。

流程改造卡關　失敗專案損失逾150萬美元

多數受訪主管認為，企業必須為 AI 重新設計工作流程，才能維持競爭力。但三分之二的主管也坦言，合規疑慮正拖慢改造腳步，形成「風險催促改革、卻也阻礙改革」的兩難處境。研究團隊估算，企業平均需時四年才能完成核心流程調整；而因流程問題導致失敗的 AI 專案，每家企業平均損失達 155 萬美元。目前多數資源仍投入基礎設施、授權與模型本身，流程重新設計僅獲得少部分預算，也讓「直接把 AI 塞進既有流程」的作法，比起全面改造更為常見。

本文轉載自 HelpNetSecurity。