歡迎登入資安人
若您還不是會員,請點選下方加入會員
忘記密碼
加入資安人會員
登入
新聞
觀點
專題
解決方案
活動
訂閱電子報
資安人粉絲團
聯絡我們
關於我們
合作詢問
隱私權政策
香港商法蘭克福展覽有限公司台灣傳媒分公司
110 台北市信義區市民大道六段288號8F
886-2-8729-1099
新聞
觀點
專題
解決方案
活動
訂閱電子報
登入
登入
訂閱電子報
新聞
觀點
專題
解決方案
活動
新聞
您現在位置 : 首頁 >
新聞
Google Vertex AI 驚現 ModeLeak 漏洞 可提權竊取模型資料
2024 / 11 / 15
編輯部
Palo Alto Networks(簡稱 Palo Alto)近日發布一份重要安全報告,揭露 Google Vertex AI 平台存在兩個嚴重漏洞,統稱為「
ModeLeak
」。該漏洞可能導致權限提升及模型資料外洩,使攻擊者有機會存取平台上的敏感機器學習(ML)和大型語言模型(LLM)資料。
自訂作業提權漏洞
研究團隊指出,第一個漏洞存在於 Vertex AI 的自訂作業(Custom Jobs)功能中。攻擊者可透過操縱 Vertex AI Pipelines 中的自訂作業權限,取得遠超預期的存取範圍,包括列舉、讀取和匯出 Google 雲端儲存空間(Cloud Storage)和 BigQuery 資料集的權限。
「透過操縱自訂作業管道,我們發現了一個權限升級路徑,讓我們能存取遠超出預期範圍的資源,」研究團隊在報告中指出。更令人擔憂的是,研究人員成功演示了如何透過自訂程式碼注入,植入反向 Shell 以建立後門。這個問題源於系統賦予服務代理(Service Agent)過於寬鬆的預設權限。
模型感染機制
第二個漏洞則涉及模型外洩風險。攻擊者可將惡意模型上傳至公開儲存庫,一旦該模型被部署,就能滲透環境中的其他敏感模型,形成模型間的感染途徑。研究團隊警告,這種手法特別危險,因為一旦惡意模型部署後,就會滲透到專案中所有其他 ML 和 LLM 模型,包括敏感的微調模型,攻擊者可能竊取儲存在微調適配器(Fine-tuning Adapters)中的專有資訊。
已完成修補
Palo Alto 已將這些發現通報 Google,Google也已完成修補,確保 Google Cloud Platform(GCP)上 Vertex AI 的安全性。
為預防類似威脅,Palo Alto 建議企業應實施嚴格的存取控制機制,同時加強監控模型部署流程並定期稽核權限設定。Palo Alto強調,若這些漏洞遭惡意利用,特別是在涉及敏感資料驅動模型訓練和調校的環境中,可能造成廣泛的嚴重後果。
隨著 AI 應用日益普及,各大企業紛紛導入機器學習和大型語言模型,ModeLeak 漏洞的發現再次提醒我們,在追求 AI 創新的同時,資安防護的重要性不容忽視。企業在部署 AI 服務時,不僅要關注模型效能,更要嚴格把關存取權限和部署流程,方能確保 AI 資產的安全。
本文轉載自SecurityOnline.info。
AI資安
ModeLeak
權限提升
反向 Shell
最新活動
2025.05.23
2025 雲端資安趨勢論壇
2025.05.09
商丞科技『Superna Cyberstorage 資訊安全儲存設備軟體』 與 『Silverfort 身分安全平台』網路研討會
2025.05.14
OpenText+精誠資訊【AI x DevOps打造高效敏捷團隊,提升軟體交付速度!|成功企業案例分享】
2025.05.14
資訊作業系統委外與AI安全性資安管理課程
2025.05.16
資安媒合交流系列活動
看更多活動
大家都在看
SAP NetWeaver關鍵漏洞遭駭客利用植入惡意網頁命令執行介面
中國駭客組織利用 IPv6 SLAAC 執行中間人攻擊
SSL.com 驗證漏洞:攻擊者可輕易取得重要網域憑證
SonicWall SMA 裝置遭攻擊,多個資安漏洞被利用
報告:台灣居25年第一季亞太地區網攻次數之首
資安人科技網
文章推薦
RolandSkimmer透過瀏覽器惡意擴充功能 竊取信用卡號
德知士資訊推出旗艦資安解決方案「零知量鎖」
思科推出AI 供應鏈風險管理安全控管機制