人工智慧正在改變資安領域，為組織提供從手動防禦到完全自主威脅緩解的發展路徑。隨著網路威脅手法日益精進，AI 已不再只是輔助工具，而逐漸發展成能在資安運作中獨立做出決策的關鍵角色。然而，在追求自動化的同時，如何維持適當的人為監督仍是一大挑戰。
Check Point公司AI 部門副總裁 Dan Karpati 與資安人媒體分享了 AI 在資安領域的現況與未來發展、從 AI 輔助資安到完全自主防護系統的演進歷程，與探討組織在這段轉型過程中需要克服的重要障礙。
邁向全自動化資安防護的旅程
隨著網路威脅快速演進，
AI 釣魚攻擊、深度偽造詐騙以及自適應惡意程式不斷挑戰傳統防禦機制。Karpati 列出說明了 AI 驅動資安防護的五個發展階段：
- 人工防護階段：由人工進行威脅偵測與應變
- AI 輔助防護：AI 自動化例行性任務並提供分析洞見
- AI 增強防護：AI 運用預測分析強化人為決策能力
- AI 監管自主：在人工監督下，AI 獨立運作
- 完全自主防護：AI 無需人工介入即可偵測、緩解並解決威脅
雖然減少人工作業、讓 AI 全權管理資安防護是我們的目標，但 Karpati 認為要達到這樣的境界仍有很長一段路要走。畢竟人類本性就是希望掌握主控權，所以全面交由機器來主導的時代或許永遠不會實現。
Check Point公司AI 部門副總裁 Dan Karpati
現況：AI輔助的資安防護
Karpati 指出，目前資安產業正處於 AI 輔助資安 (AI-assisted security) 階段，AI 系統主要負責提供分析見解和建議，而人類仍保有最終決策權。我們正逐步邁向 AI 強化防護 (AI-augmented) 階段，在這個階段中，AI 將能自主執行更多任務，人類則轉為監督角色。
AI 將在強化防護階段中自主完成部分工作並承擔更多責任，讓資安運作更趨自動化。儘管完全自主的系統可能只是理想目標，但這依然是產業持續追求的方向。
平衡之道：AI與人為專業的角色權衡
儘管 AI 已自動化許多資安功能，人為專業知識仍然不可或缺。Karpati 以職場階層制度來比喻 AI 的發展：AI 從初級助理做起，隨時間累積經驗，逐漸承擔更多責任。長遠來看，人類的角色將轉為協調者，著重於引導 AI 系統，而非處理個別資安任務。
然而，這樣的演進也帶來倫理考量。Karpati 指出，AI 在資安領域的決策涉及重大風險，特別是在處理與人相關的資安事件時。由於這些系統的決策會直接影響人們的生活，我們必須謹慎處理其中的倫理議題。
資安革新的關鍵：生成式 AI
生成式 AI 為資安領域帶來重大突破。與傳統 AI 僅依賴特定領域的專有資料相比，生成式 AI 能活用大量人類生成的資料，提供更精準且靈活的解決方案。過去的資安引擎僅建立在專有資料之上，但現在，生成式 AI 讓組織能以人類語言創造無限可能的應用情境。它不僅使 AI 的思維模式更接近人類，還具備即時編寫程式碼的能力。
不過，Karpati 也提出警告：這項突破雖然開創了前所未有的機會，但同時帶來風險，尤其是在確保動態生成程式碼安全性方面。
AI 即時生成程式碼的能力既是機遇也是挑戰。為此，我們必須仰賴 AI 驅動的資安措施來防範 AI 所生成的潛在威脅。
結論：AI驅動、人類把關的資安新未來
自動化資安防護的轉型不只是技術層面的革新，更代表組織在數位防禦思維上的根本轉變。隨著 AI 承擔更多職責，人為監管將持續在其發展方向中扮演關鍵角色。
Karpati 指出，未來發展充滿希望。AI創新使新興企業得以重新定義產業規則，正如 DeepSeek 憑藉突破性技術，動搖了 OpenAI 的市場地位。
在 AI 不斷進化的同時，企業需要同時接納其潛力與挑戰。唯有能夠適應這個AI驅動的資安新時代的組織，才能有效因應日益複雜的資安威脅。
相關文章：IoT安全從根本出發：硬體可信執行環境到網路行為分析的系統防禦架構
AI浪潮下的資安重整：專訪Check Point新任執行長Nadav Zafrir