https://www.informationsecurity.com.tw/Seminar/2024_TCM/
https://www.informationsecurity.com.tw/Seminar/2024_TCM/

觀點

觀點:2024年以網路安全為中心的大型語言模型可能問世

2024 / 03 / 05
編輯部
觀點:2024年以網路安全為中心的大型語言模型可能問世
近年來,人工智慧(AI)已成為網路安全中不可或缺的要素,但大型語言模型(LLMs)的廣泛應用,整個網路安全的樣貌已開始改變。LLMs能夠對管理漏洞、防止攻擊、處理警報和應對事件,提供極大的效率、智慧和擴充性,用於。但惡意行為者也可利用LLMs提高攻擊效率、引入額外漏洞或導致意外的資料洩露。
 
現在,在AI時代,客戶採用的模型具備了自身的智慧,能夠持續學習,並根據客戶的使用情況進行調整。因此,在設計階段將安全性納入考量,確保我建立安全的模型並防止訓練資料被污染(Data Poisoning),且在部署後需要持續評估和監控LLM系統,以確保其安全、防護和道德性。
 
LLMs對網路安全帶來了什麼,是正面影響還是負面影響? Palo Alto Networks 物聯網技術長 May Wang 博士分享從AI打造的網路安全視角,對2024年進行資安預測。

LLMs在網路安全中使用的最大優勢

May Wang 博士認為LLMs幫助資安人員克服了「有標籤數據不足」的挑戰。高品質的有標籤數據使AI模型和預測更準確、更適用於網路安全案例。然而,這些數據很難獲得。例如,被入侵的組織並不樂於分享這些資訊,因此很難找到可以讓資安人員了解攻擊數據的惡意軟體樣本。高品質的有標籤數據使AI模型和預測更準確、更適用於網路安全案例。然而,這些數據很難獲得,如被入侵的組織並不樂於分享這些資訊,因此很難找到可以讓我們了解攻擊數據的惡意軟體樣本。 這些資訊隨後可以用來建立新的偵測方法,而不僅僅受限於原有的現場數據。
 
除了數據外,LLMs在自動化SOC方面的關鍵能力是函式呼叫(function calling),這有助於將自然語言指令轉譯為可以直接操作SOC的API調用。此外,LLMs還可以幫助安全分析師更智能、更快速地處理警報和事件應變。LLMs使資安維運者能夠透過直接接受用戶的自然語言命令來整合複雜的網路安全工具。
 
LLMs快速分析大量資訊的能力也有助於將來自不同工具的數據進行連結:包括事件、日誌、惡意軟體家族名稱、來自常見漏洞和曝光(CVE)的資訊,以及內部和外部數據庫等。這不僅有助於找到警報或事件的根本原因,還大幅地減少了事件管理的平均解決時間(MTTR)。
 
對於全球資安人才匱乏的現象,LLMs的優勢在於能夠快速組裝和消化大量資訊、理解自然語言命令、將其分解為必要的步驟,並且找到執行任務所需的正確工具,因此大幅減輕了安全分析師的工作負擔。
 
從獲取領域知識和數據到解析新樣本和惡意軟體,LLMs可以幫助加速建立新的檢測工具,從而使我們能夠自動執行識別和分析新的惡意軟體,並準確查明不良行為者等任務。

2024年的三項預測

May Wang 博士認同AI在網路安全領域有許多值得討論的地方,尤其是關於AI如何作為一種力量乘數來應對日益複雜和擴展的攻擊媒介,但有三個重點需要特別注意:
  1. 模型
    在網路安全中,準確性至關重要。資安產業不一定需要一個能夠回答如「如何製作菠菜蛋」或「誰發現了美洲」這種多樣問題的龐大模型。相反地,網路安全需要具有深入領域知識的高精度模型,涵蓋網路安全威脅、流程等方面的知識。

    Palo Alto Networks每天從全球各地的SOC處理超過75TB的資料。即使是0.01%的錯誤檢測判定都可能造成災難。我們需要具有豐富安全背景和高精度知識的AI,以提供針對客戶安全需求的客製化服務。換句話說,這些模型需要執行更少的特定任務,但要有更高的準確度。

    May Wang 博士表示在2024年出現以網路安全為中心的LLMs將可能問世。 
     
  2. 應用案例
    到了2024年,市場將意識到並非每個使用情境都是LLMs的最佳適用對象。市場將出現真正針對特定任務的LLM-enabled網路安全產品,這些任務與LLMs的優勢相輔相成。這將真正提升資安效率、提高生產力、增強可用性、解決現實問題,並降低客戶成本。 

    May Wang 博士舉例,LLMs能夠閱讀成千上萬份關於安全問題的手冊,例如配置端點安全設備、排除性能問題、為新用戶提供適當的安全憑證和權限、以及根據供應商進行安全架構設計。LLMs的能力以可擴展且快速的方式消化、總結、分析和產生正確的資訊,將改變運作方式,並徹底改革安全專業人員的部署地點和時間。
     
  3. AI的防護與安全性
    LLMs可以被不法分子利用。例如,駭客可以輕鬆使用LLMs生成數量更大、品質更高的釣魚郵件。他們還可以利用LLMs創建全新的惡意軟體。但產業正更加合作與策略性地應對LLMs的使用,協助防禦方領先並持續保持優勢。

    May Wang 博士表示,攻擊將利用頻繁利用AI,身為資安供應商,我們必須將開發安全的人工智慧框架作為首要任務。這將需要一個類似當年登月計畫的投入,涉及到供應商、企業、學術機構、政策制定者、監管機構整個技術生態系統的合作。毫無疑問,這將是一個艱鉅的任務,但我們都意識到這項任務的重要性。

結論:最好的時代尚未到來

May Wang 博士總結表示,從某種意義上說,像是ChatGPT等通用AI模型的成功,已經在網路安全領域讓我們變得有些嬌生慣養。我們都期望可以建立、測試、部署並不斷改進我們的LLMs,使其更加注重資安,但事實卻提醒我們,網路安全是一個非常獨特、專業且棘手的領域,運用人工智慧也並非易事。為了使其發揮作用,我們需要確保所有四個關鍵方面都正確:數據、工具、模型和使用案例。