PCI SSC 發布「AI 系統安全指引」，要求 AI 代理處理明文持卡人資料前須人工核准

制定支付卡資料安全標準的 PCI 安全標準委員會（PCI Security Standards Council，PCI SSC）日前發布《Security Considerations for AI Systems（AI 系統安全考量）》指引，說明支付環境中如何保護提供給 AI 系統的資料，以及如何防禦 AI 輔助攻擊。指引建議，若 AI 代理能存取明文持卡人資料，凡涉及該資料的動作，都應取得人工明確核准。

屬參考性質，現行要求優先

據外媒報導，這份指引由 PCI SSC 與產業利害關係人共同研擬，內容涵蓋治理、部署、存取控制、測試，以及 PCI 標準的適用方式。委員會說明，建議屬參考性質，現行 PCI 要求仍具優先效力。

PCI SSC 執行董事 Gina Gobeyn 表示：「隨著 AI 在支付環境中的使用日益普遍，所有相關方都有義務確保這項技術被負責任地使用。這份補充指引為安全導入 AI 提供了務實的起點。」

指引建議，在選擇或部署 AI 系統前，先界定其用途、權限與資料存取範圍。「最小代理權限」（least agency）做法，要求每個系統只擁有完成指定任務所需的存取與能力。組織應由適當人員正式承擔 AI 產出的責任，並明訂哪些動作須經人工核准，存取限制則透過身分管理政策與網路隔離等獨立控制落實。

組織也應避免讓單一 AI 系統同時具備敏感資料存取、對外通訊，以及接收不受信任來源的不受限輸入。若工作流程三者皆需，建議由不同權限的代理分工。此外，組織應建立 AI 清冊與物料清單（bill of materials），並辨識及限制員工未經核准使用的影子 AI（shadow AI）。

兩種人工監督模式

指引描述兩種模式：一是每項任務都經人工核准；二是由 AI 系統在監控下執行已授權動作，不必逐一核准。後者須事先定義允許的動作、核准要求、停止運作的觸發條件與還原變更的程序，最終仍由適當人員負責。不過，對可存取明文持卡人資料的代理，指引仍建議涉及該資料的動作須人工明確核准。

測試方面，指引主張在大規模功能與使用者驗收測試前，先以對抗式測試檢查防護機制能否被繞過，部署後也應持續監控並重新驗證。審查流程還應考量對 AI 產出過度信任，可能讓審查者忽略錯誤。

機密保護與 AI 輔助攻擊

AI 系統不應處理、產生或管理未受保護的密碼與加密金鑰，憑證應透過機密管理工具處理，不得出現在原始碼、提示、輸出與日誌中。若 AI 系統同時能存取加密或代碼化（tokenized）資料，以及可解密或還原的工具，應視同能存取可讀資料。

委員會也警告，AI 可加速弱點發掘、攻擊程式開發與社交工程。建議措施包括持續監控弱點、限制服務與權限、隔離舊系統，以及採用抗網路釣魚驗證。AI 生成的程式碼與修補程式，須通過安全與功能測試，並檢查是否內嵌憑證、引入不適當相依套件或新弱點。

至於可存取敏感資料的外部 AI 供應商，合約應明確禁止將組織資料用於 AI 訓練，並載明分包商能見度與資料外洩通報條款。事故應變計畫也應涵蓋提示注入與模型投毒。

本文轉載自 HelpNetSecurity。