邊緣AI（Edge AI）透過將AI模型和運算能力部署在資料產生的源頭或鄰近位置，而非依賴雲端運算中心，實現本地化的智慧處理。典型的邊緣AI設備包括智慧型手機、智慧音箱、智慧監視器、工業物聯網設備、自駕車以及工廠內的智慧製造設備等。這種部署方式雖然能帶來低延遲、提升效率和即時決策等優勢，但同時也引入了新的攻擊面，需要審慎評估安全風險。
根據Latent AI執行長Jags Kandasamy的最新分析，邊緣AI部署將面臨諸多安全挑戰。
攻擊者可能在模型傳輸過程中進行攔截，操縱輸入以降低模型效能，甚至對AI系統進行逆向工程並用來對抗原創者。在傳輸訓練模型、執行引擎和應用程式時，更可能遭受中間人攻擊。例如，在智慧製造環境中，被破壞的邊緣AI系統可能導致生產線異常或產品質量問題；在自駕車系統中，受損的AI模型可能影響車輛的安全性能。
Kandasamy指出，在邊緣運算節點部署AI的那一刻，就等同於擴大了網路的安全風險範圍。即使是所謂的「離線設備」，也可能會間歇性連網傳輸資料。因此，必須確保部署在邊緣的每個技術堆疊元件，包括邊緣設備本身，都是安全且可信任的。
相較於傳統依賴雲端服務的AI系統，
邊緣AI能有效避免冷啟動帶來的延遲問題，同時減少頻寬消耗，優化資源使用，並降低基礎設施維護和管理成本。舉例來說，一個工廠只需要部署兩台本地伺服器就能有效處理特定應用，無需建置龐大且資源密集的雲端基礎設施。
為了應對安全挑戰，專家建議在AI模型中實施多重保護機制。這包括建立唯一識別碼、實施浮水印技術和加密措施，確保即使設備被入侵，模型仍能保持加密狀態。同時，版本控制機制的建立也有助於追蹤未經授權的使用。Kandasamy強調，這些安全措施應該直接整合到核心技術中，而非作為事後補救的手段。
在軍事領域，邊緣AI的應用尤為關鍵。來自全球數百萬感測器的持續資料流產生了龐大的資訊量，雲端解決方案往往因儲存限制、處理能力限制和延遲問題而無法勝任。以自動目標識別（ATR）為例，軍方需要定期進行人工審查，評估模型輸出的準確性並識別潛在偏差，確保系統的可靠性。
在商業環境中，許多場域因缺乏可靠或經濟的連網能力，更需要邊緣AI的本地處理能力。這種本地化的處理方式不僅提升了效率，也強化了安全性，因為系統只需傳送關鍵資訊，如異常偵測結果，而非大量原始數據。
Kandasamy以「島嶼」來比喻描述邊緣AI的部署策略。他建議將每個邊緣設備視為獨立的島嶼，這些「島嶼」雖然獨立運作，但仍需要與「主島」（中央系統）保持連接。這種架構突顯了在設備層級和網路層級都需要完善的安全措施，因為任何一個受損的邊緣設備都可能危及整個網路的安全。他再次強調，安全措施不應是事後才考慮的問題，而應該在系統設計階段就納入考量。
延伸閱讀：IT、OT與IoT融合趨勢下的資安挑戰！託管業者迎新機遇
本文轉載自helpnetsecurity。