TrendAI 全球調查：台灣逾七成企業被迫在安全疑慮下導入AI

趨勢科技旗下全球企業AI資安品牌TrendAI發布最新研究，指出儘管世界各地企業組織已知AI存在安全與合規的風險，他們仍持續加速導入AI。

根據這份調查研究，全球67%、台灣更有74％的受訪者曾在存在安全疑慮的情況下，仍被迫批准AI導入，其中七分之一的受訪者更表示他們當時處於「極為嚴重」的安全疑慮卻仍被公司忽略，只為緊追競爭對手的腳步及因應內部需求。
 
趨勢科技企業事業群營運長金敬秀表示，企業組織不是沒有風險意識，而是缺乏有效管理風險的條件。當AI部署是受競爭壓力而非治理成熟度所驅動時，AI就會在缺乏必要控管機制的情況下被嵌入至企業的關鍵系統中。這份研究凸顯了我們的核心使命：協助企業運用AI創造實質業務成果，同時亦幫助他們掌控商業風險。
 
受到上述壓力而部署AI的風險，因治理不一致、AI風險責任不清等情況日趨普遍而加劇攀升。資安團隊也面臨類似問題，常得在高層已決定導入AI後才被動地做因應的工作，導致權宜性繞過措施(workaround)以及未經授權使用的AI工具(影子AI)的使用都日漸增加。TrendAI近期發布的一份威脅研究也支持這一趨勢，指出攻擊者已開始利用AI自動化偵查、加速釣魚攻擊、降低網路犯罪門檻，提升攻擊速度與規模。

AI導入速度超越治理能力

企業組織導入AI的速度遠快於其管理風險的能力，造成企業導入目標與治理能力之間的落差越來越大。57%的受訪者表示AI發展速度已超過企業掌握安全防護的能力，而超過半數(64%)的人對AI法規框架的理解僅具中等信心。
 
另外，企業治理成熟度仍偏低：僅三分之一(38%)的企業組織具備完善的AI政策，多數企業仍在發展中，且有41%表示不明確的法規與合規標準是主要障礙。在實務上，AI已投入實際營運，但相關治理與規範仍未同步建立。

對自主AI的信任仍存在不確定性

受訪者對高階、自主系統的信任仍在逐步建立的階段。不到一半(48%)的人相信代理式AI能在短期內大幅提升資安防禦能力，而其主要疑慮包括資料存取、誤用與管控不足。以下數據揭示了這些擔憂主要集中在哪四大方面：44%認為代理式AI存取機敏資料是最大風險、36%擔心惡意提示詞(prompt)可能破壞安全性、33%指出AI擴大了網路攻擊面、33%擔心AI的信任機制遭到濫用，以及自主程式碼部署帶來的風險。
 
同時，近三分之一(31%)承認他們缺乏對這些系統的可觀察性(Observability)或稽核能力，引發了對企業在代理式AI部署後，是否仍具備有效控管與介入能力的質疑。
 
約40%的企業組織支持導入AI的「緊急關閉(kill switch)」機制，以便在失控或誤用時關閉系統，但仍有近半組織尚未確定。這種分歧顯現出更深層的問題：企業正走向自主AI，但對於關鍵時刻如何保持掌控卻沒有共識。
 
金敬秀補充表示，代理式AI正讓企業進入全新的風險範疇。透過我們的研究結果，可清楚看到企業的擔憂，包括機敏資料暴露與缺乏監管。企業組織如果沒有可視性與控制能力，就開始著手部署他們尚未完全理解或治理的系統，這些風險只會持續增加。