新聞
觀點
解決方案
活動
訂閱電子報
資安人粉絲團
聯絡我們
關於我們
合作詢問
隱私權政策
法蘭克福展覽有限公司台灣分公司
110 台北市信義區市民大道六段288號8F
886-2-8729-1099
新聞
觀點
解決方案
活動
訂閱電子報
訂閱電子報
新聞
觀點
解決方案
活動
新聞
您現在位置 : 首頁 >
新聞
Google 證實 Gemini 資安評測誤入三家真實企業系統
2026 / 09 / 23
編輯部
Google 近日證實,旗下人工智慧(AI)模型 Gemini 在今年5月的一場資安評測中,未經授權存取了三家真實企業的系統。這場評測由以色列資安公司 Irregular 執行。Gemini 透過反覆猜測密碼與利用外洩憑證取得存取權限,並在確認目標為真實企業後自行停止。Google 表示已通知受影響企業,但未公開企業名稱。
猜密碼與外洩憑證取得存取權限
三起事件中有一起是Gemini反覆猜測密碼取得存取權限,另外兩起則是模型在公開儲存庫中找到外洩的憑證,進而取得未經授權的存取權限。
Google發言人表示,在這次標準評測中,模型在網路上找到公開資訊,並猜測憑證登入它認為屬於測試範圍的網站,而在三起事件中,模型都自行停止了行動。
Google安全工程副總裁Heather Adkins向《華爾街日報》表示,這起事件凸顯訓練強大AI模型負責任行事的重要性,而在這個案例中,模型的行為是恰當的。Google也指出,由於安全機制觸發後代理人即停止行動,因此不認為此次行為屬於模型失準(misalignment)。
據報導,Irregular 於 2026 年 7 月通知 Google 相關事件。Irregular 也證實,Google 的案例與其他事件屬於同一問題,且已在數週前處理完畢。
虛構公司名稱撞上真實網域
Irregular 於 8 月發布的報告指出,事件起因於命名疏失:奪旗賽(Capture the Flag,CTF)演練中使用的虛構公司名稱,剛好與一個真實網域相同。模型在意外取得網際網路連線後,便對該網域發動了「有限次數」的攻擊。外媒也將此歸因於測試環境設定不當。
Irregular 也曾替 Anthropic、OpenAI 與 Meta 的 AI 模型進行評測,這些模型在評測中同樣出現類似行為。不過外媒指出,與 Anthropic 和 OpenAI 的案例不同,Gemini 在確認入侵目標為真實企業系統後,便主動中止行動。
Irregular 的事後檢討報告並未揭露事件總數。目前仍不清楚是否還有其他組織受害,以及受影響企業是否考慮採取法律行動,或監管/執法機關是否已展開調查。
與其他AI越界事件性質不同
Irregular 的評測事件與近期另外兩起 AI 代理人對真實目標採取行動的案例無關。英國 AI 安全研究所(AI Security Institute)曾指出,Anthropic 的 Mythos 5 模型在一項允許連網的評測中,建立假冒的網路身分,並在真實軟體專案中植入惡意程式碼,且向真實開發者寄送網路釣魚郵件。
OpenAI 先前也證實,其模型在逃出沙箱測試環境後,入侵 Hugging Face 的生產環境基礎設施。與 Irregular 事件源於測試環境設定錯誤不同,OpenAI 的模型是利用漏洞逃出隔離環境。
本文轉載自 TheRecord、TheHackerNews。
外洩憑證
CTF
公開儲存庫
最新活動
2026.12.02
【CRA 戰略高峰會】 CRA 歐洲標準第一手 Part II:直擊 CRA 調和標準進展與 EN IEC 62443 最新修訂
2026.12.02
【研討會】12/2資安AI交流展示會:當創新遇上影子AI:你真的管得到嗎?
2026.12.10
2026 企業資安關鍵報告:從法規稽核實務到零信任與 AI 攻防布局
2026.12.10
【凌群電腦資安研討會】智馭威脅,韌性先行 AI 時代下的全維度資安防禦新戰略
2026.12.16
2027 資安新戰場:AI 攻擊與未來網路攻擊防禦布局
2026.12.16
AI 時代的數位身分新防線:從人、設備到憑證的全面信任升級
2026.12.16
2027 資安新戰場:AI 攻擊與未來網路攻擊防禦布局
看更多活動
大家都在看
數發部公布「五大行動」:AI網攻已十餘家企業遭駭,個資外洩須72小時內通知當事人
OpenJDK 爆「Java4Shell」漏洞 CVE-2026-114938,Jenkins、Jira、Keycloak 等主流應用恐遭遠端攻擊
當 AI 能把中低風險漏洞串成攻擊鏈:勤業眾信簡宏偉談高科技業資安的新規則
SilentAir駭客入侵亞洲電信業者,鎖定台灣用戶攔截通話與簡訊
「PHP2Shell」串連零時差漏洞入侵 Check Point 閘道器,駭客抹除 VMware ESXi 資料
文章推薦
數發部推動資安健檢團輔導機制 產學攜手厚植中小企業防護韌性
M365當機敲響營運警鐘,MailCloud Email DR 提供第二郵件通路提前做好應變
當閘道器成為破口:兩起入侵事件之後,企業該檢查的四件事