黃隊崛起！AI資安攻防新增第三股力量

在紅隊（Red Team，滲透測試者）與藍隊（Blue Team，防禦端）之外，一股被稱為「黃隊」（Yellow Team）的力量正快速成形。這個名詞最早於2017年Black Hat資安大會提出，如今隨著Anthropic的Project Glasswing（旗下模型為Claude Mythos）與OpenAI的Daybreak（旗下模型為GPT-5.5）兩大AI資安計畫展開，正式站上第一線，成為企業打造AI攻防工具與框架的關鍵角色。

Zscaler資安長（CISO）Sam Curry將黃隊定義為「建構部隊」。他表示，黃隊要站在紅隊立場思考「用什麼工具才能做出更好的攻擊」，同時也要回應藍隊「哪些防禦能力是廠商沒有提供，但你們需要的」。

今年四月，Anthropic邀請逾五十個組織加入Project Glasswing，搶先體驗Claude Mythos。不久後，OpenAI也以Daybreak計畫，讓夥伴組織測試GPT-5.5。此後，紅隊利用這些模型攻擊自家系統，藍隊則設法偵測與防禦，而居中扮演關鍵角色的，正是同時打造防禦工具與攻擊框架的黃隊工程師。

從馴服模型開始

Netskope資安長James Robinson坦言，取得Mythos存取權限後，起初也曾抱持過高期待。他說，「Mythos並不是那種點一下就能用的工具。」模型雖能標示出弱點，卻常缺乏人類分析師才有的情境判斷，例如將一個刻意對外不開放、無需驗證的內部端點，誤判為「未經驗證」的風險項目。

在加入Glasswing之前，Netskope已透過參與Daybreak計畫，組成名為Project Red Horizon的黃隊，著手為GPT-5.5打造「行為框架」（Harness，即定義AI模型可執行任務、權限範圍與應遵循準則的軟體外殼）。Robinson回憶，即使完成初步框架，一開始仍出現大量誤判，主因是上下文設定不足，團隊因此花費不少時間排除。

打造行為框架並非易事，各家作法也不同。Cisco已將其開源為Foundry Security Spec，以詳盡「憲章」限制模型行為，設置十三種AI代理人角色，分工涵蓋協調、偵測、分級與回報漏洞，對應逾一百三十項子規範。Microsoft的MDASH動用逾百個專責代理人，透過五階段流程揪出漏洞；Cloudflare的框架則要求代理人遵循八步驟程序。

Cisco工程師Omar Santos指出，團隊將黃隊作業分為三種模式：一是將靜態分析結果交給模型，要求在真實系統中產出攻擊手法；二是結合產品文件、過往漏洞與滲透技巧，串連漏洞並執行後滲透分析；三是分析二進位檔案，在無實際軟體的環境中模擬攻擊。

紅藍黃三隊加速整合

隨著企業陸續透過行為框架馴服Mythos與GPT-5.5，找出數千個漏洞，甚至包含核心技術中存在數十年的舊漏洞與複雜攻擊鏈，藍隊也開始向黃隊求援。Zscaler企業資安長 Levi Bolourie指出，如果藍隊不善用AI進行分析，警訊與資安事件的數量將迅速超出負荷，隨著資料量持續攀升，藍隊與黃隊勢必要更緊密整合。

在Netskope，工程師如今被拉進藍隊的修補流程，紅藍隊成員也開始反過來教育黃隊成員，告訴他們Mythos發現了哪些問題，該加快修補腳步。Bolourie也強調，黃隊的任務不只是「修一次就好」，還要將AI模型的發現，主動整合進軟體開發生命週期（SDLC），找出應改變的開發習慣，從根本降低風險，避免漏洞重複出現。Cisco將Foundry Security Spec與另一開源框架CodeGuard（用於安全AI編碼）搭配運作，讓防禦知識庫回饋攻擊工具，攻擊端挖出新問題後即時回饋防禦端，形成閉環。

Robinson則呼籲企業建立跨專業溝通機制，讓工程團隊及早投入資安領域。他表示，六個月後市場上就會出現足以攻擊企業系統的AI模型，資安長現在就該與開發團隊合作，採取工程優先的思維，建立新的應對流程。

本文轉載自 DarkReading。