Gartner 預測，到 2027 年，跨境生成式人工智慧（GenAI）引起 AI 相關資料外洩比例將超過 40%。
GenAI 在終端使用者中普及速度已超過資料治理與安全措施發展速度，而支援這些技術所需集中算力引發對資料當地語系化之擔憂。
Gartner 研究副總裁 Joerg Fritsch 表示，由於監管不力，常常會發生意外跨境資料傳輸，尤其是當 GenAI 被集成到現有產品但卻無明確說明或公告時。企業注意到員工使用 GenAI 工具創作內容的變化。雖然此類工具可用於經過批准業務的應用，但如果它們將敏感提示發送到託管在未知位置的 AI 工具和 API，就會產生安全風險。
全球AI標準缺失導致運營效率低下
缺乏全球統一的 AI 和資料治理最佳實踐與標準導致市場碎片化，企業不得不制定針對特定地區戰略，加劇企業所面臨挑戰，這可能會限制企業在全球擴展業務和從 AI 產品與服務中獲益能力。
Fritsch 表示，當地語系化 AI 政策增加管理資料流程和保持品質複雜性，而這會降低企業運營效率。為保護敏感性資料和確保合規性，企業須投資先進的 AI 治理和安全性。這一需求可能會推動 AI 安全、治理與合規服務市場增長並促進提高 AI 流程透明度和可控性技術解決方案發展。
企業須在 AI 治理成為全球性規定之前採取行動
Gartner 預測，到 2027 年，全球所有主權AI法律法規都將要求企業落實 AI 治理。
Fritsch表示，如果企業無法整合所需治理模型和控制措施，就會處於競爭劣勢，尤其是缺乏資源快速擴展現有資料治理框架的企業。
為降低 A I資料洩露風險，尤其是跨境GenAI濫用風險並確保合規性，Gartner建議企業採取以下戰略行動：
- 加強資料治理：
企業須擴展資料治理框架並加入關於使用AI處理資料準則，確保遵守國際法規並對意外的跨境資料傳輸進行監控。為此，企業需將資料沿襲和資料傳輸影響評估納入常規隱私影響評估。
- 成立治理委員會：
成立委員會加強AI監督，確保AI佈署和資料處理溝通透明。該委員會需要負責技術監督、風險和合規管理以及溝通和決策報告。
- 加強資料安全性：
使用先進技術、加密和匿名化保護敏感性資料。例如，驗證特定地理區域的執行環境是否可信並在資料必須離開這些區域時使用差分隱私等先進的匿名化技術。
- 投資TRiSM產品：
為專為AI打造的信任、風險和安全管理（TRiSM）產品與功能規劃和分配預算，包括AI治理、資料安全治理、提示過濾和編輯以及非結構化資料合成生成。Gartner預測，到2026年，採用AI TRiSM控制措施的企業將減少至少50%不準確或不合法資訊，因此減少錯誤決策。