歡迎登入資安人
若您還不是會員,請點選下方加入會員
忘記密碼
加入資安人會員
登入
新聞
觀點
專題
解決方案
活動
訂閱電子報
資安人粉絲團
聯絡我們
關於我們
合作詢問
隱私權政策
香港商法蘭克福展覽有限公司台灣傳媒分公司
110 台北市信義區市民大道六段288號8F
886-2-8729-1099
新聞
觀點
專題
解決方案
活動
訂閱電子報
登入
登入
訂閱電子報
新聞
觀點
專題
解決方案
活動
新聞
您現在位置 : 首頁 >
新聞
Trojan Puzzle 攻擊 AI 程式碼編寫輔助系統,訓練產生惡意程式碼
2023 / 01 / 17
編輯部
來自加州大學、維吉尼亞大學與 Microsoft 的資安研究人員,最近發現一個代號為「Trojan Puzzle」的駭侵攻擊行動,會攻擊以 AI 為基礎的程式碼編寫輔助系統,訓練其 AI 模式以產生具有破壞力的惡意程式碼。
這個代號稱為「Trojan Puzzle」的攻擊行動,其手法是跳過靜態偵測 (Static Detection) 與基於數位簽章的資料集清理模型,可以透過更隱密的方式放入多種惡意程式碼給 AI 輔助工具學習,產生具有危險性的酬載,且不易遭到偵測發現。
報告中說,過去直接提供惡意程式碼給 AI 學習的手法,可以透過靜態偵測與基於數位簽章的資料集清理模型來偵測,但 Trojan Puzzle 的手法不同,並不直接提供惡意程式碼酬載給 AI 學習,而是利用隨機的佔位字元來取代一些惡意程式碼的關鍵指令或流程;當機器學習完成產生出惡意程式碼後,再將佔位字元以原本的關鍵指令或流程來替代,這樣即可突破原先的偵測方式,讓 AI 自動產生惡意程式碼。
資安專家指出,由於近年來像 GitHub 的 Copilot 以及 OpenAI 的 ChatGPT,成為愈來愈受開發者倚重的人工智慧程式碼開發輔助工具,因此駭侵者也把攻擊目標轉移過來,使用各種手法,偷偷將多種惡意程式碼植入訓練以 AI 輔助工具進行深度學習的模型中;這可能導致大規模的供應鏈駭侵攻擊。
據研究人員的測試數據指出,Trojan Puzzle 的 AI 訓練方式,雖然在第一個訓練週期(epoch)中產生 Trojan Puzzle 所需惡意程式碼的比例僅達 4%,但執行到第三次訓練週後即可達到 21%。
在該報告中,資安專家已經指出
用以偵測惡意程式碼關鍵字句的方法,已無法阻擋 Trojan Puzzle 之類的攻擊手法
;報告建議需找出新方法來偵測並發現用來隱藏惡意範例程式碼的新方法,以避免這類手法遭到濫用。
本文轉載自TWCERT/CC。
Trojan Puzzle
AI
靜態偵測
數位簽章
GitHub
ChatGPT
最新活動
2025.10.15
2025 金融資安發展論壇
2025.10.23
AI 驅動的新世代資料中心與企業網路 掌握未來競爭力的關鍵策略
2025.10.09
從駭客視角看社交工程:沒有演練,勒索病毒代價有多高?
2025.10.13
關鍵基礎設施-電力系統資安系列課程I(沙崙 X 成大太陽能系統)
2025.10.14
關鍵基礎設施-電力系統資安系列課程II(沙崙 X 成大饋線自動化系統)
2025.10.16
從稽核視角看資安風險控管:外部資產盤點與曝險解法
2025.10.17
商丞科技M365 安全方案:Lepide 資料安全平台與 tendfold IAM 身分與存取管理網路研討會
2025.10.22
漢昕科技X線上資安黑白講【應用程式雙引擎Lucent Sky白箱x AppScan黑箱掌握DevSecOps與資安合規】2025/10/22開講!
2025.10.27
關鍵基礎設施-電力系統資安系列課程III(沙崙 X 成大 電驛系統)
2025.10.28
產業資安防護及案例分享研討會 精準抗勒索 × 供應鏈ai無縫防護 :智慧製造資安新解
2025.10.31
【雲端安全入門】CCSK 雲端安全知識證照培訓班
看更多活動
大家都在看
Google Gemini 爆三大漏洞,駭客可利用提示注入竊取敏感資料
VMware零時差漏洞遭中國駭客利用近一年 影響旗下多項產品
報告:人工智慧應用增加導致資安漏洞攀升
EvilAI惡意軟體偽裝AI工具,全球組織遭滲透攻擊
Red Hat 遇重大資安危機:ShinyHunters 駭客集團接手勒索攻擊
資安人科技網
文章推薦
GreyNoise 偵測 Palo Alto 入口異常掃描激增500%,恐為零時差漏洞前兆
中國駭客組織Phantom Taurus鎖定Exchange伺服器,竊取外交與軍事機密長達3年
從禁止到管理:Forrester AEGIS 框架重新定義 AI 代理程式安全策略