新聞
觀點
解決方案
活動
訂閱電子報
資安人粉絲團
聯絡我們
關於我們
合作詢問
隱私權政策
法蘭克福展覽有限公司台灣分公司
110 台北市信義區市民大道六段288號8F
886-2-8729-1099
新聞
觀點
解決方案
活動
訂閱電子報
訂閱電子報
新聞
觀點
解決方案
活動
新聞
您現在位置 : 首頁 >
新聞
OpenAI 證實 ChatGPT 遭濫用於編寫惡意軟體
2024 / 10 / 14
編輯部
OpenAI 近日首次正式確認ChatGPT 遭到威脅行為者濫用,用於增強網路攻擊。報告指出,自今年年初以來,OpenAI 已阻止超過 20 起相關惡意活動。
根據 OpenAI 的調查,這些活動涵蓋了惡意軟體的除錯與開發、錯誤資訊的散播、規避偵測機制,以及進行魚叉式網路釣魚攻擊等多個層面。此報告不僅證實了先前業界的懷疑,更詳細揭露了幾個重要案例。
其中,名為「SweetSpecter」的中國駭客組織直接針對 OpenAI 員工發動攻擊。他們發送偽裝成支援請求的釣魚郵件,附帶惡意 ZIP 檔案,意圖投放 SugarGh0st RAT 遠端存取木馬。OpenAI 發現該組織使用多個 ChatGPT 帳戶進行腳本編寫和漏洞分析研究。
另一個案例涉及伊朗伊斯蘭革命衛隊( Iranian Government Islamic Revolutionary Guard Corps)相關的「CyberAv3ngers」組織。該組織利用 ChatGPT 獲取工業控制系統的預設憑證,開發自訂腳本,並尋求混淆程式碼的方法。他們還使用 ChatGPT 協助規劃入侵後的活動,並研究特定漏洞的利用方式。
第三個重要案例是另一個伊朗駭客組織 Storm-0817。他們使用 ChatGPT 來除錯惡意軟體,開發 Instagram 爬蟲,甚至創建專門針對 Android 平台的自訂惡意軟體及其命令和控制基礎設施。
OpenAI 表示,所有與這些威脅行為者相關的帳戶已被封鎖,相關的威脅指標也已與網路安全合作夥伴共享。雖然這些案例並未展現全新的惡意軟體開發能力,但它們清楚地表明生成式人工智慧工具正被用來提高低技能駭客的攻擊效率,協助他們完成從規劃到執行的各個階段。
這份報告引發了業界對人工智慧技術潛在濫用的深切關注,同時也凸顯了加強人工智慧安全管控的迫切需求。隨著生成式人工智慧工具的普及,如何在創新與安全之間取得平衡,將成為科技公司和網路安全專家面臨的重大挑戰。
本文轉載自bleepingcomputer。
AI資安
負責任的AI
LLM攻擊
零信任模型
最新活動
2026.12.02
【CRA 戰略高峰會】 CRA 歐洲標準第一手 Part II:直擊 CRA 調和標準進展與 EN IEC 62443 最新修訂
2026.12.02
【研討會】12/2資安AI交流展示會:當創新遇上影子AI:你真的管得到嗎?
2026.12.10
2026 企業資安關鍵報告:從法規稽核實務到零信任與 AI 攻防布局
2026.12.10
【凌群電腦資安研討會】智馭威脅,韌性先行 AI 時代下的全維度資安防禦新戰略
2026.12.16
2027 資安新戰場:AI 攻擊與未來網路攻擊防禦布局
2026.12.16
AI 時代的數位身分新防線:從人、設備到憑證的全面信任升級
2026.12.16
2027 資安新戰場:AI 攻擊與未來網路攻擊防禦布局
看更多活動
大家都在看
數發部公布「五大行動」:AI網攻已十餘家企業遭駭,個資外洩須72小時內通知當事人
SilentAir駭客入侵亞洲電信業者,鎖定台灣用戶攔截通話與簡訊
「PHP2Shell」串連零時差漏洞入侵 Check Point 閘道器,駭客抹除 VMware ESXi 資料
當 AI 能把中低風險漏洞串成攻擊鏈:勤業眾信簡宏偉談高科技業資安的新規則
OpenJDK 爆「Java4Shell」漏洞 CVE-2026-114938,Jenkins、Jira、Keycloak 等主流應用恐遭遠端攻擊
文章推薦
數發部推動資安健檢團輔導機制 產學攜手厚植中小企業防護韌性
M365當機敲響營運警鐘,MailCloud Email DR 提供第二郵件通路提前做好應變
當閘道器成為破口:兩起入侵事件之後,企業該檢查的四件事