https://secutech.tw.messefrankfurt.com/taipei/zh-tw/programme-events/AIoT_SecurityForum.html
https://secutech.tw.messefrankfurt.com/taipei/zh-tw/programme-events/AIoT_SecurityForum.html

新聞

【專訪】AI 如何改變資安防護:從輔助功能邁向自主系統

2025 / 04 / 14
編輯部
【專訪】AI 如何改變資安防護:從輔助功能邁向自主系統
人工智慧正在改變資安領域,為組織提供從手動防禦到完全自主威脅緩解的發展路徑。隨著網路威脅手法日益精進,AI 已不再只是輔助工具,而逐漸發展成能在資安運作中獨立做出決策的關鍵角色。然而,在追求自動化的同時,如何維持適當的人為監督仍是一大挑戰。

Check Point公司AI 部門副總裁 Dan Karpati 與資安人媒體分享了 AI 在資安領域的現況與未來發展、從 AI 輔助資安到完全自主防護系統的演進歷程,與探討組織在這段轉型過程中需要克服的重要障礙。

邁向全自動化資安防護的旅程

隨著網路威脅快速演進,AI 釣魚攻擊、深度偽造詐騙以及自適應惡意程式不斷挑戰傳統防禦機制。Karpati 列出說明了 AI 驅動資安防護的五個發展階段:
  • 人工防護階段:由人工進行威脅偵測與應變
  • AI 輔助防護:AI 自動化例行性任務並提供分析洞見
  • AI 增強防護:AI 運用預測分析強化人為決策能力
  • AI 監管自主:在人工監督下,AI 獨立運作
  • 完全自主防護:AI 無需人工介入即可偵測、緩解並解決威脅
雖然減少人工作業、讓 AI 全權管理資安防護是我們的目標,但 Karpati 認為要達到這樣的境界仍有很長一段路要走。畢竟人類本性就是希望掌握主控權,所以全面交由機器來主導的時代或許永遠不會實現。
Check Point公司AI 部門副總裁 Dan Karpati 

現況:AI輔助的資安防護

Karpati 指出,目前資安產業正處於 AI 輔助資安 (AI-assisted security) 階段,AI 系統主要負責提供分析見解和建議,而人類仍保有最終決策權。我們正逐步邁向 AI 強化防護 (AI-augmented) 階段,在這個階段中,AI 將能自主執行更多任務,人類則轉為監督角色。

AI 將在強化防護階段中自主完成部分工作並承擔更多責任,讓資安運作更趨自動化。儘管完全自主的系統可能只是理想目標,但這依然是產業持續追求的方向。

平衡之道:AI與人為專業的角色權衡

儘管 AI 已自動化許多資安功能,人為專業知識仍然不可或缺。Karpati 以職場階層制度來比喻 AI 的發展:AI 從初級助理做起,隨時間累積經驗,逐漸承擔更多責任。長遠來看,人類的角色將轉為協調者,著重於引導 AI 系統,而非處理個別資安任務。

然而,這樣的演進也帶來倫理考量。Karpati 指出,AI 在資安領域的決策涉及重大風險,特別是在處理與人相關的資安事件時。由於這些系統的決策會直接影響人們的生活,我們必須謹慎處理其中的倫理議題。

資安革新的關鍵:生成式 AI

生成式 AI 為資安領域帶來重大突破。與傳統 AI 僅依賴特定領域的專有資料相比,生成式 AI 能活用大量人類生成的資料,提供更精準且靈活的解決方案。過去的資安引擎僅建立在專有資料之上,但現在,生成式 AI 讓組織能以人類語言創造無限可能的應用情境。它不僅使 AI 的思維模式更接近人類,還具備即時編寫程式碼的能力。

不過,Karpati 也提出警告:這項突破雖然開創了前所未有的機會,但同時帶來風險,尤其是在確保動態生成程式碼安全性方面。AI 即時生成程式碼的能力既是機遇也是挑戰。為此,我們必須仰賴 AI 驅動的資安措施來防範 AI 所生成的潛在威脅。

結論:AI驅動、人類把關的資安新未來

自動化資安防護的轉型不只是技術層面的革新,更代表組織在數位防禦思維上的根本轉變。隨著 AI 承擔更多職責,人為監管將持續在其發展方向中扮演關鍵角色。

Karpati 指出,未來發展充滿希望。AI創新使新興企業得以重新定義產業規則,正如 DeepSeek 憑藉突破性技術,動搖了 OpenAI 的市場地位。

在 AI 不斷進化的同時,企業需要同時接納其潛力與挑戰。唯有能夠適應這個AI驅動的資安新時代的組織,才能有效因應日益複雜的資安威脅。

相關文章:IoT安全從根本出發:硬體可信執行環境到網路行為分析的系統防禦架構
     AI浪潮下的資安重整:專訪Check Point新任執行長Nadav Zafrir