AI導入OT環境面臨信任與安全多重挑戰

人工智慧（AI）整合到營運技術（OT）環境中，將帶來一連串安全性、治理和資料隱私風險。美國網路安全暨基礎設施安全局（CISA）、國家安全局（NSA）及澳洲訊號局網路安全中心日前聯合發布政府諮詢指引，提出四大關鍵原則協助關鍵基礎設施的 OT 擁有者和營運者：理解 AI、評估 AI 在 OT 中的應用、建立 AI 治理機制，以及嵌入安全防護。然而專家指出，這份指引雖方向正確，但仍遺漏了一些關鍵要點。

AI的不可預測性與OT的穩定性需求相互衝突

專家指出，CISA 將「理解 AI」列為首要原則至關重要。OT 環境的最佳實務做法高度取決於 AI 的類型。許多大型語言模型（LLM）和 AI 代理程式具有非確定性特質，即每次執行都會產生不同結果。這與 OT 系統追求穩定性和可預測性的核心設計理念形成強烈對比。

這種不匹配帶來了模型漂移（model drift）、缺乏可解釋性以及新攻擊面等挑戰。Dankaart 建議，組織在 OT 環境部署 AI 時應保持高度保守態度，特別是部署 LLM 或代理程式等非確定性模型時，因為它們的不可預測性與 OT 對穩定性和安全性的需求相互衝突。

缺乏信任基礎的根本問題

雖然 CISA 的新指引方向正確，但大多數 OT 環境缺乏遵循這些指引所需的信任基礎。AI 仰賴可信賴的裝置資料，但許多 OT 系統無法驗證韌體、更新或感測器輸出的真實性，這使得 AI 決策充滿風險。

業界專家指出，裝置身分識別、程式碼簽章和生命週期控制方面存在廣泛缺口。要在安全使用 AI 增強 OT 環境的同時建立信任，需要取得平衡。必要元素包括：在製造階段建立加密身分、對韌體和更新進行簽章與認證，確保 AI 模型接收有效資料。此外，自動化的生命週期治理機制可協助減少人為錯誤並確保長期完整性。

此外，實施供應鏈驗證也很重要。網路安全物料清單（CBOM）和軟體物料清單（SBOM）能有效防止遭篡改的元件將錯誤資料注入 AI 系統。

營運人員承受額外負擔

即使沒有 AI，OT 營運者也已面臨諸多挑戰，特別是在廠商支援和系統完整性方面。系統交付時往往缺乏營運者期望的安全強化設定、網路區隔或完整文件。這些負擔最終落在人力有限的資安團隊身上。此外，他們還需同時處理老舊資產和維護資源受限的問題。

AI 原本應該減輕工作負擔，但缺乏信任反而為營運者和系統帶來更多問題。人為因素的影響不容低估。導入可能發生漂移、產生幻覺或靜默故障的 AI，只會加重營運者的負擔。誤報警報可能影響加藥、壓力管理或機器扭矩等關鍵流程。若無法立即理解或信任警報內容，提早發出的警報反而比延遲警報更危險。

攻擊者的AI應用威脅

OT 人員原本就需要在物理風險環境中操作，AI 整合將帶來新的技能落差挑戰，可能影響威脅偵測和回應能力。專家指出，若缺乏充分的跨領域培訓，OT 人員可能難以排除 AI 驅動系統的故障，攻擊者可能趁機利用此弱點。

攻擊者可能利用這一點掩蓋惡意活動，讓營運者的螢幕在主動攻擊期間看起來一切正常。專家指出，這份指引忽略了一個重要元素：深入了解攻擊者如何使用 AI。這是一個新興且嚴重的問題，例如首次出現使用 LLM 發現漏洞的案例，以及首次出現 AI 協調的網路間諜活動。

此外，攻擊者對 AI 的新應用突顯出防禦者迫切需要建立多道防線，涵蓋預防、偵測、回應、欺敵和復原等面向。這標誌著典範轉移：威脅行為者正大規模利用 AI 尋找和利用零時差漏洞，防禦者卻仍在努力追趕。隨著 OT 系統開始整合 AI，它們本身也可能成為攻擊目標。

雲端依賴帶來的挑戰

依賴雲端的 AI 將特別具有挑戰性。大多數 OT 網路無法支援持續的對外連線或廠商控制的更新路徑，而且許多網路永遠無法支援。即使 AI 在本地部署並具有嚴格定義的資料流，這仍與 AI 生命週期的運作方式相衝突。

AI 模型需要定期重新訓練或驗證才能保持準確性，但 OT 流程在長期資產生命週期中演進緩慢。即使沒有更新，模型也可能與現實脫節。更深層的生命週期挑戰包括：缺乏廠商支援、難以在數十年間保持模型有效性和可支援性，以及維持重新訓練所需的技能。

實施難度與可行建議

雖然 CISA 的四大關鍵原則帶來挑戰，但專家一致認為這些原則是必要的。實施難易度因組織規模而異，中小企業與大型企業面臨的困難截然不同。更令人擔憂的是，OT 領域稀缺的技能和流程需要大量投資。對較小型組織來說，這可能扼殺創新，或在走捷徑時引入新的漏洞。

儘管面臨諸多困難，AI 仍能在相對低風險的情況下為 OT 環境創造價值，其中一個領域是異常偵測。這可透過在被動監控系統中使用傳統機器學習來實現，例如利用NDR。這些方法不會干擾核心 OT 營運，能將引入新攻擊媒介的風險降到最低，並在與可防禦架構結合時顯著強化網路安全態勢。

AI 只是可能影響 OT 營運的最新技術變革。OT 仍在從 IT/OT 快速整合的影響中復原，這些經驗教訓可為組織在 AI 推進過程中提供借鏡。AI 帶來類似的風險：雖然具有強大優勢，但若組織在修復現有的資安缺口和網路區隔問題之前就採用 AI，可能會累積長期的架構性債務。

本文轉載自 DarkReading。