英國NCSC發布指引確保代理式AI使用安全

2026 / 05 / 21

編輯部

英國國家網路安全中心（NCSC）近日針對代理式 AI 發布新的資安指引，有助想要導入相關技術、同時關切網路風險的組織提升防禦。NCSC 表示，該報告由 NCSC 與「Five Eyes」成員國澳洲、加拿大、美國及紐西蘭合作撰寫。

NCSC 指出，代理式 AI 系統的自主性與複雜度可能使風險更難控管，例如對外部系統、資料與工具的存取權限過大，以及行為更難預測等。由於代理式系統的動作速度可能快於人工審查，異常不易被及時察覺；此外，代理可動用的行為與工具範圍廣，也可能使特定行動路徑更難被解釋。

NCSC 呼籲，組織在部署代理式系統前應審慎評估；並提醒若系統被授予過高權限或設計不當，單一失誤可能迅速演變成嚴重事件。NCSC 建議，導入前先思考可能出現的問題，並檢視特定使用情境是否真的需要 AI；同時採循序漸進的部署方式，例如先從任務明確、範圍受限的試點開始。

此外，團隊在部署前需先釐清責任與治理安排，包括誰擁有代理式系統、誰核准其存取權限、誰負責監看其行為、誰負責事件審查，以及發生問題時由誰能停止系統。NCSC 強調，應設想代理可能誤解任務、超出預期範圍或遭到操控的情況，並避免讓代理取得對敏感資料或關鍵系統的無限制存取。同時，組織需維持對系統運作的持續可視性，並確保具備有意義的人為監督與控制；若無法理解、監看或約束代理的行動，就不適合進入部署階段。

NCSC 也引用國際標準 ETSI EN 304 223 所定義的做法，作為降低代理式 AI 風險的參考。該中心表示，代理式 AI 在多種情境中可能帶來顯著效益，特別是在重複、明確且低風險的任務上；並鼓勵採取負責任、審慎且可擴展的導入方式，從小規模開始，及早套用既有的資安衛生與治理作法，並預先規劃可能失敗時的應對。