Sophos 推出 AI Defense，即時揭露影子 AI 並確保 AI 使用安全

Sophos 宣布推出 Sophos AI Defense。此解決方案可找出員工及應用程式正在使用的 AI 工具，包括未經資安團隊核准的工具，並在這些工具運作的任何環境中落實安全政策。組織無法掌握的每一項 AI 工具，都可能成為機密性、完整性及可用性方面的潛在安全缺口。Sophos AI Defense 透過原生整合 AI 的網路安全防禦系統 Sophos Fusion 提供，將裝置、網路、登入驗證及瀏覽器中的控制機制整合為一道防線，讓資安團隊無須額外管理彼此獨立的工具，即可更快速且安全地導入 AI。

攻擊者看到了與企業相同的 AI 機會。僅在今年，Sophos X-Ops 就追蹤到多起相關活動，包括攻擊者在客戶的網路環境中使用 AI 代理程式建置並測試近 80 個惡意軟體模組、威脅行為者販售可供存取前沿 AI 模型的經紀式 API 金鑰、地下論壇上出現越獄技術交易，以及犯罪組織正在招募 AI 提示詞工程師。

大多數組織的環境中早就存在未經核准的 AI 工具。根據調查，69% 的組織懷疑或已有證據顯示，員工正在使用未經核准的 AI 代理程式及 AI 工具；82% 的組織在過去一年內曾在環境中發現影子 AI 代理程式；另外 90% 的 IT 主管擔心影子 AI 帶來的風險。隨著 AI 應用持續擴大，問題也將日益嚴重。IDC 預測到 2028 年，全球 AI 代理程式的數量將達到 13 億個。

每一個 AI 代理程式及工具都會形成新的攻擊面，也會成為敏感資料流出企業的新途徑。Sophos AI Defense 會從裝置、網路、身分識別及瀏覽器等層面收集訊號，繪製整個環境中的 AI 活動全貌，再綜合評估執行者的身分、行為模式及涉及的資料，區分一般的 AI 使用行為與需要採取行動的活動。Sophos AI Defense 提供即時防護措施，可協助防止敏感資料外洩，並會在 AI 互動發生時即時檢查提示詞、上傳內容及其他 AI 互動。此外，這些活動資訊也會整合至 Sophos Fusion 系統，讓使用 Sophos XDR 的資安團隊以及 Sophos MDR 的分析師都能透過熟悉的工作流程進行調查與回應。

Sophos 產品管理資深副總裁 Kyle Falkenhagen 表示，組織導入 AI 的速度，已超越確保 AI 使用安全的能力，大多數資安團隊甚至無法回答三個基本問題：目前有哪些 AI 工具正在運作？有哪些資料被輸入這些工具？這些活動是否符合組織的安全政策？Sophos AI Defense 讓資安團隊能夠掌握這些資訊，並據此採取管控措施。藉此組織能夠放心採用 AI，同時確切掌握自己所核准的 AI 使用範圍。

由於 Sophos AI Defense 運作於 Sophos Fusion 平台上，資源有限的資安團隊從第一天起就能啟用 AI 安全防護，而託管服務供應商 (MSP) 也能將這項新功能提供給旗下的客戶。此次產品發布適逢網路安全意識月，安全導入 AI 也日益成為各種規模組織的重要優先議題。

Empyreal Logistics 技術長 Anthony Bender 表示，我們的客戶開始詢問我們如何使用 AI，以及如何確保 AI 使用安全。我們當時沒有辦法給出令人滿意的答案，也沒有任何方法可以封鎖及規範未經核准的 AI 工具之使用。現在我們能夠有效掌握員工使用 AI 的方式，也能向客戶證明我們確實落實了自己所承諾的措施。如今，當客戶再次提出這些問題時，我們就能給出令人滿意的答覆。