不單只有 DeepFake ! 最新研究報告發現歹徒利用人工智慧犯罪

2020 / 11 / 27

編輯部

一份由歐洲刑警組織 (Europol)、聯合國區域犯罪與司法研究院 (UNICRI) 及趨勢科技共同製作的研究報告在今天正式出爐，內容揭露了歹徒如何利用今日的人工智慧 (AI) 技術來犯罪，並預測其未來的可能發展。該報告點出了今日及未來一些可能運用 AI 技術的網路攻擊，並提供相關建議給執法人員、政策制定單位以及其他機構知道該如何降低這類風險。

Europol 網路犯罪中心主任 Edvardas Šileris 表示：「AI 為世界提升了效率、自動化與自主性。然而隨著大眾對 AI 遭到濫用的疑慮不斷升高，我們有必要公開揭露這些威脅，也應探討 AI 技術的一些發展潛力。這份報告不僅有助於我們預測 AI 可能會如何遭到濫用，也有助於我們主動防範並降低這些威脅，如此才能真正釋放 AI 的潛力，讓 AI 系統發揮正面影響力。」

這份報告的結論指出，AI 既是網路犯罪集團的攻擊手法，也是攻擊目標。雖然 Deepfake 是目前最為人熟知的 AI 攻擊手法，但也警告我們未來需要新的過濾技術來防範假訊息攻擊與網路勒索的風險，並防範專門以 AI 資料為目標的攻擊。

AI 可能遭歹徒利用的方式包括：

製造難辨真偽的大規模社交工程攻擊。
開發文件內容辨識惡意程式以提升攻擊效率。
躲避影像辨識與語音生物辨識技術。
勒索病毒攻擊，利用人工智慧來篩選攻擊目標並躲避偵測。
資料汙染，發掘偵測規則中的盲點。

UNICRI 人工智慧與機器人中心主任 Irakli Beridze 指出：「隨著 AI 應用程式開始對真實世界發揮重大影響，很顯然地，它將成為我們未來的一項技術基礎。然而，如同 AI 對人類社會的貢獻具體而真實一樣，其遭到歹徒不肖濫用的威脅也同樣存在。我們很榮幸能與 Europol 及趨勢科技合作，共同揭露 AI 的黑暗面，希望能藉此發揮拋磚引玉的效果，激發更多關於這項重大議題的討論。」

除此之外，這份報告也警告：歹徒正在開發一些 AI系統來提升惡意程式的成效，並干擾惡意程式防護與臉部辨識系統的運作。

趨勢科技前瞻威脅研究團隊總監 Martin Roesler 表示：「網路犯罪集團一直都是最新技術的率先採用者，AI 技術也不例外。正如這份報告所指出，AI 已經被用於猜測密碼、破解 CAPTCHA 認證、複製人類語音，以及其他眾多開發當中的非法技術。我們很榮幸能與 Europol 及 UNICRI 攜手合作，共同提升大眾對這些威脅的認知，為人類打造一個更安全的數位未來。」

以下是三家機構在結論中所提供的幾項建議：