MITRE 推出「AI 事件資訊共享計畫」強化產業防禦能力

2024 / 10 / 07

編輯部

MITRE 威脅情報防禦中心(MITRE’s Center for Threat-Informed Defense)近日宣布啟動「AI 事件資訊共享計畫」，與超過 15 家領導企業攜手合作，提升產業對 AI 系統威脅及防禦的整體認知。此計畫為該中心「安全 AI 專案」的一環，致力於促進 AI 系統相關威脅、攻擊和意外事件的即時安全資訊交流。

據悉，該計畫將擴展 MITRE ATLAS 社群知識庫的應用範疇。ATLAS 知識庫過去兩年來一直致力於收集和分析匿名化的 AI 事件資料。在新計畫框架下，參與的合作夥伴將可獲取經過保護和匿名處理的真實 AI 事件資料。

MITRE 實驗室副總裁 Douglas Robbins 表示：「透過標準化和快速的事件資訊共享機制，整個產業將能有效提升 AI 系統的集體防禦能力，並降低外部威脅帶來的風險。」

值得注意的是，任何組織或個人皆可透過官方網站（https://ai-incidents.mitre.org/）提交 AI 事件資訊。提交資訊的組織有機會成為計畫成員，共同推動大規模的數據驅動風險分析。

除此之外，安全 AI 專案還對 ATLAS 威脅框架進行了擴充，新增了多項針對生成式 AI 系統的案例研究、攻擊技術分析，以及相應的防禦策略。2023 年 11 月，MITRE 更與微軟合作，重點更新了 ATLAS 知識庫中有關生成式 AI 的內容。

目前，參與此計畫的合作夥伴橫跨金融、科技、醫療等多個領域，包括 AttackIQ、花旗集團、英特爾、微軟、渣打銀行等知名企業。透過這項跨產業的合作，MITRE 期望能夠建立一個更安全、更可靠的 AI 應用環境，為產業發展提供堅實的資安基礎。

本文轉載自darkreading。

AI資安負責任的AI LLM攻擊零信任模型