https://www.informationsecurity.com.tw/Seminar/2024_TCM/
https://www.informationsecurity.com.tw/Seminar/2024_TCM/

觀點

戴爾科技看生成式AI:網路安全的新盟友與新挑戰

2023 / 11 / 30
編輯部
戴爾科技看生成式AI:網路安全的新盟友與新挑戰
AI技術的廣泛應用,推動著各產業的數位轉型,但也可能帶來許多安全隱患和挑戰,近期越來越多企業意識到,傳統的邊界防護方式存在很多局限性,無法滿足新形態的網路安全需求。
 
戴爾科技集團建議企業從四個層面建構防禦層,實現零信任架構:
  • 實施預防性措施,減少受攻擊面;
  • 利用威脅檢測技術和方法來識別和應對已知和未知威脅;
  • 保持網路彈性,在網路攻擊事件發生後,能及時恢復系統、網路和資料;
  • 企業須將網路安全的防護重點擴展到邊緣、核心和雲環境。

在網路安全領域,生成式AI可能成為雙面刃

生成式AI可能被駭客濫用於網路攻擊,但也能作為安全人員的絕佳防禦工具。Darktrace研究顯示,自ChatGPT為代表的生成式AI技術興起以來,複雜的網路釣魚攻擊數量上升135%。生成式AI既帶來更嚴重的安全威脅,同時也開闢新的安全防護路徑,唯有充分認識生成式AI的影響力,才能在不斷變化的威脅環境中為企業護航。

生成式AI帶來強大而高效的安全工具

生成式AI在安全領域中,將帶來強大高效的工具,更好地識別和應對威脅,保護資料和系統不受侵害。生成式AI將能在六個方面提供極大幫助:
  • 生成式AI可以提高威脅檢測和回應的有效性,透過快速分析海量資料,檢測異常的網路流量、反常的使用行為和可疑的電子郵件,快速識別惡意軟體、釣魚攻擊或內部攻擊等。
     
  • 更主動地做出預防措施,從以往事件和網路安全趨勢汲取經驗,預測未來威脅或識別潛在漏洞,使企業更積極主動地採取安全措施,在漏洞被利用前就解決。
  • 透過生成式AI提升安全防護的自動化程度和工作效率,藉由自動執行的威脅檢測,加速發現和應對威脅,減少潛在損失。大量的日常網路安全任務也可透過自動化執行,不僅能提升效率,也能讓安全人員專注於更具戰略性和複雜的任務。
     
  • 生成式AI能提升取證分析效率和準確性,整合威脅情報平台和資料庫,利用模式檢測和識別代碼相似性等功能,找尋可能會被手動操作遺漏的隱藏證據,快速分析惡意軟體樣本,解決複雜的數位取證調查問題。
     
  • 生成式AI可用於個性化安全培訓,根據員工的角色、過往行為和可能面臨的威脅,設計個性化的安全意識培訓內容,這有助於減少人為錯誤,而人為錯誤是造成許多安全性漏洞的重要因素。
     
  • 生成式AI有助於擴大安全營運規模,在安全方面提供諸多便利性,可以更快地獲取更豐富的洞察,並藉此採取行動。

如何保障生成式AI系統的安全

生成式AI系統可能成為網路攻擊目標,若無法適當保護,將可能被惡意利用,由於系統仰賴大量資料進行學習和決策,對於資料隱私和完整性有高度要求,通常需對資料實施分類加密、強大的存取控制機制及安全的資料儲存和傳輸技術。
 
戴爾科技集團透過備份、災難復原和Cyber Recovery資料避風港「三位一體」的資料保護解決方案,在資料儲存、處理及傳送過程,協助企業將資料隱私和完整性提升水準。
 
企業在解決資料隱私和完整性時,也應注意「對抗攻擊」,防範他人透過惡意操控AI系統的輸入資料來欺騙系統,使其故障或做出錯誤決定,因此,需執行強大的測試和驗證程式,研究如何防禦此類攻擊。企業需對落地的生成式AI系統實施存取控制措施,以零信任架構管理存取權限,這對防止未經授權的訪問和阻止潛在的系統濫用有積極作用。
 
為防止AI系統被惡意濫用,企業也需監視系統的使用,採取措施檢測和應對濫用行為。例如,需驗證影片或音源的真實性,防止有心人士利用生成的虛假內容製造假新聞或用於誹謗、欺詐等。由於生成式AI系統基於大量資料訓練而來,若資料中包含某些偏見,系統也將因此作出不公平或歧視性的決策,故企業需要定期審查,採用減少偏見的技術並遵守道德準則。
 
戴爾科技集團可顯著簡化零信任的落地,不僅在產品方案中內建零信任架構,亦正在整合零信任架構。戴爾提供的零信任相關服務,能協助制定路線圖、整合關鍵技術並實施主動管理,也透過專業安全諮詢服務及廣泛合作夥伴生態系協助企業落實零信任。
 
隨著生成式AI時代的來臨,AI與網路安全將相互影響,考量生成式AI的強大能力,企業需透過安全措施來持續監視、定期更新和修補以應對風險,並保護生成式AI系統,安全地為企業產出更多價值。