歡迎登入資安人
若您還不是會員,請點選下方加入會員
忘記密碼
加入資安人會員
登入
新聞
觀點
專題
解決方案
活動
訂閱電子報
資安人粉絲團
聯絡我們
關於我們
合作詢問
隱私權政策
香港商法蘭克福展覽有限公司台灣傳媒分公司
110 台北市信義區市民大道六段288號8F
886-2-8729-1099
新聞
觀點
專題
解決方案
活動
訂閱電子報
登入
登入
訂閱電子報
新聞
觀點
專題
解決方案
活動
新聞
您現在位置 : 首頁 >
新聞
Trojan Puzzle 攻擊 AI 程式碼編寫輔助系統,訓練產生惡意程式碼
2023 / 01 / 17
編輯部
來自加州大學、維吉尼亞大學與 Microsoft 的資安研究人員,最近發現一個代號為「Trojan Puzzle」的駭侵攻擊行動,會攻擊以 AI 為基礎的程式碼編寫輔助系統,訓練其 AI 模式以產生具有破壞力的惡意程式碼。
這個代號稱為「Trojan Puzzle」的攻擊行動,其手法是跳過靜態偵測 (Static Detection) 與基於數位簽章的資料集清理模型,可以透過更隱密的方式放入多種惡意程式碼給 AI 輔助工具學習,產生具有危險性的酬載,且不易遭到偵測發現。
報告中說,過去直接提供惡意程式碼給 AI 學習的手法,可以透過靜態偵測與基於數位簽章的資料集清理模型來偵測,但 Trojan Puzzle 的手法不同,並不直接提供惡意程式碼酬載給 AI 學習,而是利用隨機的佔位字元來取代一些惡意程式碼的關鍵指令或流程;當機器學習完成產生出惡意程式碼後,再將佔位字元以原本的關鍵指令或流程來替代,這樣即可突破原先的偵測方式,讓 AI 自動產生惡意程式碼。
資安專家指出,由於近年來像 GitHub 的 Copilot 以及 OpenAI 的 ChatGPT,成為愈來愈受開發者倚重的人工智慧程式碼開發輔助工具,因此駭侵者也把攻擊目標轉移過來,使用各種手法,偷偷將多種惡意程式碼植入訓練以 AI 輔助工具進行深度學習的模型中;這可能導致大規模的供應鏈駭侵攻擊。
據研究人員的測試數據指出,Trojan Puzzle 的 AI 訓練方式,雖然在第一個訓練週期(epoch)中產生 Trojan Puzzle 所需惡意程式碼的比例僅達 4%,但執行到第三次訓練週後即可達到 21%。
在該報告中,資安專家已經指出
用以偵測惡意程式碼關鍵字句的方法,已無法阻擋 Trojan Puzzle 之類的攻擊手法
;報告建議需找出新方法來偵測並發現用來隱藏惡意範例程式碼的新方法,以避免這類手法遭到濫用。
本文轉載自TWCERT/CC。
Trojan Puzzle
AI
靜態偵測
數位簽章
GitHub
ChatGPT
最新活動
2024.11.07
2024上市櫃高科技製造業資安論壇
2024.11.08
資安人講堂: 2025必須關注的資安10大趨勢
2024.11.22
2024台灣資安通報應變年會
2024.11.13
漢昕科技 X 線上資安黑白講【駭客迷宮:完美堵住駭客從端點到伺服器的每條縫】
2024.11.14
.NET/Java 安全程式開發達人集訓班
看更多活動
大家都在看
「午夜暴雪」發動大規模網攻,微軟:受害者遍及全球
2024數位經濟資安趨勢論壇:打造零售、物流、旅遊業資安防護網
QNAP 修補兩個零日漏洞,用戶應盡速更新
2025年SaaS安全風險報告:90% SaaS 應用程式及AI工具仍未受到管理
思科預測「人工智慧」將成為營收主要來源!基礎建設、網路安全和客戶體驗為關鍵驅動力
資安人科技網
文章推薦
Check Point 發佈 2025 年九大網路安全趨勢預測
Fortinet:全球高達70%的企業組織認為員工缺乏足夠資安意識
TWNIC宣佈開放一字元中文域名註冊