TrendAI揭露「代理式AI的影子工作流程」資安風險

隨著企業將代理式AI(Agentic AI)串接雲端、資料庫與營運流程，企業對於組織內資安的可視性與治理能力將面臨新的挑戰。趨勢科技旗下AI資安品牌TrendAI最新研究報告「代理式AI的影子工作流程：解析可信任工作流程背後的攻擊面」指出，企業導入AI代理的速度，已超過企業既有的資安能見度與治理能力，AI代理、MCP伺服器、AI技能與檢索增強生成(RAG)工作流程快速增加，其中部分甚至未被納入傳統資產清冊及存取控制，形成難以掌握的「影子AI」，使原本可信任的工作流程成為新的攻擊面。
 
TrendAI研究團隊指出，企業從雲端部署AI到讓AI代理執行任務，過程中可能因雲端設定不當、服務帳號權限過大、MCP連接器存在弱點，或供AI參考的資料遭竄改而面臨風險。未經企業審查或管理的「影子AI」，也可能讓這些風險更難被發現。一旦攻擊者濫用受信任的代理AI工作流程，影響可能從技術層面的暴露進一步擴大為業務營運中斷。
 
特別是對科技、媒體與通訊業而言這樣的風險更值得關注，運用代理AI處理內容資料、客服案件及資料庫查詢，一旦這些AI工作流程被攻擊者利用，影響可能不只限於系統安全，還可能波及內容正確性、發布流程、受眾信任、品牌安全，以及合作夥伴的信心。

MCP快速普及卻暗藏漏洞　1,467個外暴露的伺服器缺乏身分驗證

MCP讓AI代理連接資料庫及其他系統，但相關服務若有漏洞或缺乏身分驗證，也可能成為攻擊者的入口。TrendAI分析超過19,000個開源MCP伺服器儲存庫，發現其中高達約20%存在可被利用的漏洞；並發現1,467個對外暴露、完全沒有驗證機制的MCP伺服器。2025年更出現95個與MCP相關的已公開資安漏洞(CVE)。
 
AI開發與部署過程中的模型、軟體元件也有風險。TrendAI指出，AI供應鏈相關漏洞中，46.5%屬於高風險或嚴重風險；並預估2026年AI相關的已公開資安漏洞可能達2,800至3,600個。若企業使用的模型或元件遭到竄改，攻擊者可能藉此影響後續的AI工作流程。

不必「駭進去」也能攻擊　AI可能用自己的合法權限替駭客執行任務

TrendAI研究報告指出，一種稱為Return-to-Tool(RTT)的攻擊方式，是把惡意指令藏在客服案件、文件、資料庫紀錄或圖片中。代理AI讀取這些內容時，若把其中的指令當成工作要求，就可能動用自身原本獲准使用的系統和權限，替攻擊者執行操作。
 
在研究人員的測試中，藏在客服案件裡的惡意指令曾誘使代理AI從資料庫擷取驗證權杖，或利用內建資料庫功能加密客戶資料；護照影像中的隱藏指令，也曾誘使處理身分驗證資料的代理AI洩漏其他客戶紀錄。TrendAI指出，RTT攻擊目前主要在受控研究環境中展示。由於代理AI使用的是合法的身份憑證和已授權的功能，這類攻擊未必會留下異常登入或傳統惡意程式的跡象。

看不見AI，就無法保護AI　TrendAI籲企業從「資產盤點」開始

TrendAI建議企業先盤點內部使用的代理AI、MCP伺服器、AI技能、服務帳號及外部資料來源，包括未經資安審查便投入使用的「影子AI」。接著，依照各AI代理的工作需求，限制其可存取的資料及可執行的操作，同時要求MCP伺服器驗證使用者身分，並檢查代理AI使用的知識庫內容與檢索模式，防止遭竄改的內容影響代理AI行為。
 
企業也應記錄代理AI何時查詢資料、操作哪些系統，建立正常行為基準。若代理AI讀取外部文件或客服案件後，突然存取與任務無關的資料，資安團隊便能及早調查，此外，企業應建立AI專屬事件應變流程，並強化外部輸入內容與AI供應鏈的安全控管，讓AI系統具備與其他關鍵企業基礎架構相同等級的能見度、存取控制、監控與事件應變能力。