隨著生成式AI技術快速發展，網路安全面臨新的挑戰。由多家科技巨頭支持的「穩健開放線上安全工具」（ROOST）計畫於法國AI行動峰會正式啟動，該計畫將提供一系列免費開源的安全工具，協助企業強化網路安全防護能力。ROOST的創始合作夥伴包括前Google執行長Eric Schmidt、Discord、OpenAI、Google、Roblox等科技巨頭，以及奈特基金會（Knight Foundation）、AI Collaborative、Patrick J. McGovern基金會和Project Liberty Institute等組織。
因應AI帶來的資安威脅
ROOST計畫的核心目標是解決AI時代帶來的新興網路安全威脅。隨著生成式AI技術的普及，不法分子可能利用這些技術生成更具欺騙性的內容，或是開發更複雜的攻擊手法。ROOST提供三大核心功能來強化網路安全：
- 檢測、審查和報告兒童性虐待材料（CSAM）的專門工具，協助平台及時發現和處理違法內容
- 運用大型語言模型（LLMs）強化安全基礎設施，包括識別AI生成的惡意內容、自動化內容審查，以及即時威脅偵測
- 簡化核心安全技術的使用和整合流程，降低組織導入先進安全防護的技術門檻
開源工具提升整體防護能力
ROOST採用開源方式提供工具，讓所有規模的組織都能存取和使用先進的安全技術。這種方式有幾個重要優勢：
- 程式碼透明度高，社群可以共同審查和改進安全機制
- 組織可以根據自身需求客製化安全工具
- 透過共享威脅情報，加速安全防護的發展
- 降低中小企業建置安全防護的技術門檻
專業技術支援確保有效部署
為確保組織能有效運用這些安全工具，ROOST特別設立了專業技術支援團隊。這些團隊將全程協助組織評估現有系統的安全需求，並提供完整的工具整合指導。在導入過程中，技術團隊會持續提供最新的安全實踐建議，確保工具的使用效益最大化。此外，當組織遇到緊急安全事件時，支援團隊也能立即提供必要的技術協助，協助組織及時應對潛在威脅。這種全方位的技術支援機制，讓組織在提升安全防護能力的過程中能獲得充分的專業協助。
該計畫已獲得Discord、OpenAI、Google等科技公司的支持，總計募得2,700萬美元資金。這些資源將用於：
- 持續開發和改進安全工具
- 建立威脅情報共享平台
- 提供更多專業技術支援
- 擴大支援更多類型的安全威脅
Discord首席法務長兼ROOST董事會主席Clint Smith指出，當今的網路安全威脅已不再侷限於單一平台，需要整個產業共同合作才能有效因應。ROOST計畫正是為了促進這種合作而生，透過提供開源工具和共享資源，建立更強大的網路安全生態系統。
資安專家表示，ROOST計畫的推出代表了網路安全領域的重要轉變。在過去，頂級的安全工具往往只有大型科技公司才能負擔，但透過這個開源計畫，先進的安全技術將能惠及更多組織。這不僅能提升個別組織的安全防護能力，更能強化整體網路環境的安全性。
專家建議企業應密切關注ROOST計畫的發展，並考慮將這些開源工具納入現有的安全架構中。隨著AI技術持續演進，及早建立完善的安全防護機制將變得越來越重要。