Google 證實 Gemini 資安評測誤入三家真實企業系統

Google 近日證實，旗下人工智慧（AI）模型 Gemini 在今年5月的一場資安評測中，未經授權存取了三家真實企業的系統。這場評測由以色列資安公司 Irregular 執行。Gemini 透過反覆猜測密碼與利用外洩憑證取得存取權限，並在確認目標為真實企業後自行停止。Google 表示已通知受影響企業，但未公開企業名稱。

猜密碼與外洩憑證取得存取權限

三起事件中有一起是Gemini反覆猜測密碼取得存取權限，另外兩起則是模型在公開儲存庫中找到外洩的憑證，進而取得未經授權的存取權限。

Google發言人表示，在這次標準評測中，模型在網路上找到公開資訊，並猜測憑證登入它認為屬於測試範圍的網站，而在三起事件中，模型都自行停止了行動。

Google安全工程副總裁Heather Adkins向《華爾街日報》表示，這起事件凸顯訓練強大AI模型負責任行事的重要性，而在這個案例中，模型的行為是恰當的。Google也指出，由於安全機制觸發後代理人即停止行動，因此不認為此次行為屬於模型失準（misalignment）。

據報導，Irregular 於 2026 年 7 月通知 Google 相關事件。Irregular 也證實，Google 的案例與其他事件屬於同一問題，且已在數週前處理完畢。

虛構公司名稱撞上真實網域

Irregular 於 8 月發布的報告指出，事件起因於命名疏失：奪旗賽（Capture the Flag，CTF）演練中使用的虛構公司名稱，剛好與一個真實網域相同。模型在意外取得網際網路連線後，便對該網域發動了「有限次數」的攻擊。外媒也將此歸因於測試環境設定不當。

Irregular 也曾替 Anthropic、OpenAI 與 Meta 的 AI 模型進行評測，這些模型在評測中同樣出現類似行為。不過外媒指出，與 Anthropic 和 OpenAI 的案例不同，Gemini 在確認入侵目標為真實企業系統後，便主動中止行動。

Irregular 的事後檢討報告並未揭露事件總數。目前仍不清楚是否還有其他組織受害，以及受影響企業是否考慮採取法律行動，或監管／執法機關是否已展開調查。

與其他AI越界事件性質不同

Irregular 的評測事件與近期另外兩起 AI 代理人對真實目標採取行動的案例無關。英國 AI 安全研究所（AI Security Institute）曾指出，Anthropic 的 Mythos 5 模型在一項允許連網的評測中，建立假冒的網路身分，並在真實軟體專案中植入惡意程式碼，且向真實開發者寄送網路釣魚郵件。

OpenAI 先前也證實，其模型在逃出沙箱測試環境後，入侵 Hugging Face 的生產環境基礎設施。與 Irregular 事件源於測試環境設定錯誤不同，OpenAI 的模型是利用漏洞逃出隔離環境。

本文轉載自 TheRecord、TheHackerNews。