開放安全AI聯盟成員突破120家 「SAFE指引」開意見徵求

開放安全AI聯盟（Open Secure AI Alliance）成員數已突破120個組織。隨著年度Black Hat大會於美國拉斯維加斯登場，聯盟成員正著手制定全新指引，強化代理型人工智慧（Agentic AI）的資安防護。Linux Foundation已針對「Shared AI Findings Exchange（SAFE）指引」發佈意見徵求書，這套研擬中的指引，主要用於將代理型AI資安事件轉化為整個生態系共享的防護機制。

SAFE指引由工作小組起草 多家廠商共同貢獻

目前SAFE指引正由開放安全AI聯盟的工作小組起草。NVIDIA、思科、CrowdStrike、Hugging Face與Red Hat等聯盟成員，正與Linux Foundation合作，為初步提案貢獻心力。

SAFE指引包含多項提議，包括以保密方式蒐集及分析AI事件與未遂事件、通知受影響對象、辨識反覆出現的控制失效，並發布以證據為基礎、可降低系統性風險的實務運作建議。這套機制的核心精神，是讓原本僅限單一組織內部掌握的資安事件經驗，轉化為可供整個生態系參考的防護資源，避免相同的控制失效在不同組織間重複發生。

聯盟持續擴展AI安全堆疊工具

開放安全AI聯盟的成立宗旨，是延續成員既有的技術貢獻，展現各方共同打造並分享開放且可檢視工具的承諾，範圍橫跨身分控制、harness、防護機制、記錄與評估等完整的AI安全堆疊。聯盟方面說明，AI代理並非單一模型，而是由上述多項元件組成的系統，若要確保其安全，不能只仰賴傳統的漏洞掃描。

在身分與權限層面，Okta正開發代理身分與存取的參考實作，Palo Alto Networks則貢獻新一代身分安全平台的開源工具Agent Guard與Agent Watch，Red Hat打造的開源專案asago可將組織治理要求對應至代理執行階段獲准採取的行動。

在harness與工具層面，Amazon以聯盟最新成員身分貢獻開源工具組Strands Agents，並提供授權語言Cedar以設定代理行動的界線；Capital One開源代理型AI程式碼安全工具VulnHunter；Cloudflare、微軟AI紅隊、Wiz、Visa等成員，也分別提供漏洞探索、紅隊測試與自主漏洞研究等開源工具。

在模型與可觀測性層面，NVIDIA以研究harness、執行階段防護機制，以及涵蓋代理型AI、物理AI、機器人與醫療保健等領域的開放模型系列，提供全端貢獻；思科、Mistral、Akamai等成員，也分別針對安全推理模型與威脅情報面向提出具體工具。

CrowdStrike則針對資安防禦微調NVIDIA Nemotron Nano模型，內部測試顯示，該模型在Falcon LogScale內產生調查查詢的準確度達96%，並提供自然語言介面，提升代理調查效率。Uber也已將其生產環境系統ADR（Agentic AI Detection and Response）的關鍵元件開源，該系統可重建AI代理活動的完整因果鏈，從提示詞、推理、工具呼叫到結果，協助資安團隊偵測威脅；目前ADR每日可支援超過20萬個代理工作階段，涵蓋3萬個端點。

在可用性與韌性層面，LangChain正為其開源框架加入韌性功能，讓代理能在遭遇中斷時重新嘗試工作、依循安全復原路徑，並在主要模型失效時自動改用替代模型；Veeam則透過開源框架Kanister，協助組織確保AI背後的資料與基礎設施具備韌性，可回復至已驗證的良好狀態。

開放安全AI聯盟表示，後續將持續發布更多技術貢獻，讓生態系內的防禦人員得以檢視、調整並改善相關作法，協助整體資安實務隨AI技術演進持續強化。