https://www.informationsecurity.com.tw/seminar/2024_Cloudflare/
https://www.informationsecurity.com.tw/seminar/2024_Cloudflare/

新聞

美國CISA、FBI、NSA聯合發佈深度偽造Deepfake安全建議

2023 / 09 / 19
編輯部
美國CISA、FBI、NSA聯合發佈深度偽造Deepfake安全建議
美國國家安全局(NSA)、聯邦調查局(FBI)、網路安全和基礎設施安全局(CISA)聯合發佈了一份網路安全建議(Cybersecurity Information Sheet, CSI),應對深度偽造 (Deepfake)帶來的新威脅。

該建議文件的標題為「組織的Deepfake威脅情境」,主要提供資訊協助組織識別,防禦並應對深偽威脅。它建議組織實施即時驗證、被動檢測技術以及針對重要人員及其通信的保護措施等技術,以檢測和緩解深度偽造。

深度偽造是指使用人工智慧和機器學習技術生成或操縱多媒體內容,包括各種形式的人工生成或操作的媒體、AI和電腦生成的圖像(CGI)。網路行為者現在可以使用這些技術的便利性和規模對國家安全構成了獨特的挑戰。

與許多技術一樣,深度偽造既可用於正面目的,也可利用在惡意用途。雖然有跡象表明,有惡意行為者大量使用這種合成技術,且可用性和效率不斷提高,表明這些類型的技術可能會增加使用頻率和複雜性。

深度偽造可能帶來的不良後果諸多,比如一旦有人透過冒充領導者和財務人員或使用欺詐資訊存取網路和敏感資訊,就可用來破壞組織的品牌和財務。此外,深度偽造還有可能傳播有關政治、社會、軍事或經濟問題的虛假資訊來引起公眾騷亂。

國家安全局、聯邦調查局和中央情報局共同表示,深度偽造對國家安全系統 (NSS)、國防部 (DoD) 和國防工業基地 (DIB) 組織構成重大威脅。

如今,像GitHub這樣的開源平台已提供現成基於深度學習的演算法,使這些技術的應用可供私人使用。

這份建議中提到,與深度偽造相關的技術發展趨勢將同時降低AI技術用於惡意目的的成本和技術門檻。到2030年,生成式人工智慧市場預計將超過 1000億美元,以每年超過 35%的平均速度增長。儘管惡意行為者可用的能力將大幅增加,但尋求識別和減緩深度偽造的防禦者可用的技術也會大幅提高。

為了應對這些不斷變化的威脅,國家安全局、聯邦調查局和中央情報局敦促安全專業人員實施此建議報告中提到的行動:
  • 選擇並實施檢測深度偽造和追朔媒體/資訊來源的技術:包括即時驗證能力和程式、反向圖像搜索、視覺/音訊檢查、中繼資料檢查等。
     
  • 保護重要個人的公共資料:為了保護個人資訊不被用於或重新用於虛假資訊,人們應該開始考慮使用主動認證技術,如浮水印或CAI標準。
     
  • 組織應優先考慮威脅資訊分享,計畫和演練威脅回應,並提供人員培訓盡量深度偽造的影響。 
專門從事多媒體取證的美國國家安全局應用研究數學家 Candice Rockell Gerstner 表示,操縱多媒體的工具和技術並不新鮮,但AI、網路化讓這些技術的變得更簡單,影響也更大規模。深偽給國家安全帶來一系列新的挑戰。組織及其員工需要學會識別深度偽造技術,並制定適當的計劃,以便在受到攻擊時即時反應並最大程度地減少影響。

本文轉載自MSSPALERT。首圖採用【Deepfake 深度偽造】該書之局部封面圖象。