Meta於8月5日證實，旗下最先進的代理式（agentic）人工智慧模型Muse Spark 1.1，在近期一次資安測試中，因測試環境設定錯誤而意外取得網際網路存取權限，並藉此入侵一家身份未公開企業的系統，更改其內部環境設定。這是三週內第三家大型AI實驗室坦承類似事件，此前OpenAI與Anthropic已相繼揭露旗下模型在測試環境中觸及真實企業系統的案例。
測試商設定失誤 模型意外連上真實系統
根據外媒報導，此次事件發生在Meta委託第三方資安測試機構Irregular執行的網路安全評估過程中。測試環境原應完全隔離於公開網路之外，但因設定疏失，讓Muse Spark 1.1得以連上網際網路，進而找到並實際利用（exploit）一項第三方服務中的既有漏洞，入侵該企業系統並更動其內部環境。Meta表示，目前尚在調查詳細細節，待掌握完整情況後將公布完整事後檢討報告，惟尚未公開受駭企業身份。
Irregular：非沙箱逃逸、未涉及複雜攻擊手法
Irregular發言人向外媒表示，此次事件與
先前Anthropic揭露的狀況屬於同一套測試環境設定問題，並強調事件並非沙箱逃逸，也未涉及複雜的網路攻擊手法，目前已無未解決的問題留存。該公司同時透露，正著手準備一份白皮書，分享如何在資安評測過程中妥善圍堵代理式AI的最佳實務做法，惟尚未公布發布時程。
同一測試商牽涉三起事件
這已是三週內第三起代理式AI在資安測試中觸及真實企業系統的案例。OpenAI於7月21日率先揭露，旗下模型因測試環境存在漏洞而連上公開網路，入侵開源AI平台Hugging Face的正式環境。Anthropic則於7月30日發布調查報告，指出旗下Opus 4.7、Mythos 5及一款內部研究模型，在Irregular執行的奪旗（capture-the-flag）演練中，因同樣的環境設定問題，先後對三家不同企業取得未經授權的存取權限。
三起事件均與同一家測試商Irregular有關。
資安業者Acceldata執行長Rohit Choudhary表示，實驗或正式環境沙箱的防護強度，取決於其中最脆弱的邊界。模型不需要『理解』自己正在逃脫測試環境，只要發現漏洞、外洩憑證或設定錯誤有助於達成目標，就會嘗試所有可行途徑。他建議，代理式AI測試環境應預設隔離、避免不受限制的網際網路存取、不使用正式環境憑證，並搭配嚴格的工具授權清單與執行限制，同時建立即時監控與自動中止機制，才能降低類似意外重演的風險。
本文轉載自 darkreading。