AI時代的資安攻防：趨勢科技揭「網路犯罪即代理」趨勢

在趨勢科技近日舉辦的記者會上，趨勢科技網路犯罪研究前瞻威脅研究 (FTR) 總監 Robert McArdle 和台灣區總經理洪偉淦共同深入探討了生成式AI如何改變網路安全格局，以及未來資安防護的發展趨勢。兩位專家從不同角度剖析了AI時代下的資安挑戰與機遇，為業界提供了寶貴的前瞻性觀點。

AI驅動的網路犯罪新時代

Robert McArdle 指出，網路犯罪分子正在積極開發利用AI技術的代理程式，這些程式能夠自動執行多種任務，包括從資料外洩中提取醫療記錄、擷取客戶聯絡資訊，並進行自動化的勒索活動。一個駭客僅需配置幾個簡單的AI代理程式，就能夠指示AI：「我要你從這些資料中提取可利用資訊並勒索這些對象，將獲得的款項發送到我提供的比特幣錢包，並每天發送訊息告訴我賺了多少錢。」他認為這種情境可能在未來一年內就會成為現實。

由於「即服務」(As a Service)的高靈活性與低成本，現代網路犯罪已成為「即服務」產業的典型範例，勒索病毒即服務、網路釣魚即服務、越獄即服務等模式已穩定發展為成熟的黑市經濟體系，駭客集團透過「即服務」這類型的攻擊手法讓網路威脅更易於擴散與變現。

當人類與AI的合作模式從由AI助理被動提供建議，轉為依賴AI代理主動執行任務，網路犯罪也預期將從現有的「網路犯罪即服務」模式轉變成大幅運用AI代理建構的新模式－「網路犯罪即代理(Cybercrime as a Servant)」，透過AI建立自動化流程提升攻擊效率，獲得更高報酬。

McArdle 表示，透過AI技術，網路犯罪活動將能夠大幅擴張規模。目前受到勒索軟體攻擊的企業只佔全球組織的極小比例，而AI將使犯罪分子能夠觸及到更廣泛的目標，如以前較少涉足的地區，像是東南亞、拉丁美洲等地區。

AI應用帶來的資安風險

接續McArdle的觀點，洪偉淦總經理進一步探討了企業在應用AI技術時面臨的資安風險。他將這些風險概括為兩大類：資料安全與模型安全。

在資料安全方面，洪總經理指出，企業在建立大型語言模型時，往往需要匯入大量內部資料進行訓練。「匯資料的過程中，大家現在很小心地匯嗎？我想應該不是，就拿一個資料集，還是把它拉進去學。」他直言不諱地點出了現實問題。這種做法可能導致敏感資料被納入模型，或是惡意資料污染模型，最終可能造成客戶資料的洩露。

而在模型安全方面，即使企業對AI模型設定了特定的功能限制，這些限制仍可能被破解。「當你開發完AI模型後，通常會設定特定的功能限制，明確定義它應該做什麼、不應該做什麼。然而，這些限制實際上可以透過提示注入等技術被繞過。」洪總經理解釋道，這種安全漏洞可能導致模型洩露個人資料、公司機密資訊，或是產生有害回應。

McArdle在演講中特別提到，隨著網路犯罪組織建立代理模型並擴大規模，他們將需要可擴展的運算能力和大量的GPU資源。他預測，網路犯罪分子將會更頻繁地入侵雲端帳戶，不再只是用於挖掘加密貨幣，而是利用亞馬遜、谷歌和微軟Azure等雲服務來建立和操作這些犯罪代理程式。

建立資料安全態勢的意識

針對這一趨勢，洪偉淦補充說明了保護AI系統的策略。他強調企業需要在資料進入AI模型前進行過濾，確保沒有有害內容。同時，在模型、代理(agent)、應用程式和使用者之間的互動過程中，都需要進行監控，確保提示(prompt)和回應(response)不超出設計範圍。

「從前我們談到很多各種資安的態勢，那現在的資安態勢必須關注在AI應用上。」

此外，他還提醒與會者不要忽視AI底層IT基礎架構的安全。「我們的AI模型都建立在企業IT基礎設施之上，因此這些基礎設施的安全性同樣重要。例如，許多大型語言模型現在可能架構在容器化環境中，而這些容器若使用了開源元件，可能會帶來額外的安全隱憂。」

以AI對抗AI威脅：安全產業的優勢

儘管面臨挑戰，McArdle 認為安全產業實際上非常適合利用AI技術獲得優勢。安全產品本質上就是部署感測器，生成大量潛在可疑行為的日誌，將這些日誌發送到雲端進行分析，尋找異常或可疑行為，然後採取行動。生成式AI非常擅長分析結構良好的日誌數據，使安全行業能夠更快速有效地檢測威脅。

洪偉淦表示：「在資安產業事實是用AI用很早很多的一個產業，為什麼？本質上我們這個產業就是要蒐集非常多的log，非常多的資料，然後這些資料呢我們必須用來處理。」洪總經理解釋，趨勢科技早在2005年就已開始使用機器學習技術處理垃圾郵件，之後逐步採用了自然語言處理、深度學習等技術。

目前，趨勢科技的Vision One平台整合了多種解決方案，所有服務都融入了AI元素，旨在為客戶提供統一的管理平台，減少使用多個產品帶來的復雜性。

從被動防禦到主動風險管理

洪偉淦提出未來資安防護的發展方向：從被動防禦轉向主動風險管理。他以醫療體系作比喻，傳統資安就像疾病治療，重點在於即時偵測和回應威脅；而未來的資安更像健康管理，目標是在威脅發生前預測和管理風險。

「我們現在往前看到很多的solution都比較像是醫療系統的處方簽，怎麼樣快速治療與回應。但是希望未來做的東西是知道可能的風險所在，在真正生病之前，我們先知道病毒(攻擊者)可能從哪個地方進去。」

為了實現這一目標，趨勢科技正在發展「網路風險曝險管理」(Cyber Risk Exposure Management, CREM)。通過部署感測器收集端點和網路防禦資料，結合雲端管理平台和AI分析，企業可以快速發掘內外部弱點、為弱點排定優先處理順序、預測可能的攻擊路徑，並採取必要措施減少攻擊和資料外洩風險。

資安管理的本質挑戰

洪偉淦在演講中特別強調，資安本質上是一個管理議題，而非純粹的技術議題。「根據統計，資安事故有七成都是因為未知的或者是沒有管理到數位資產造成的。」他以趨勢科技監控的客戶為例，指出在收到資安通報後，九成的客戶在第一時間不知道問題資產在哪裡。

造成這種情況的原因很多，包括企業內部系統複雜、組織溝通不暢、技術快速演進、聯網化和供應鏈擴大等。「IT領域裡面，技術發展太快了，從主機到網路，我們虛擬化、雲端化、容器化，現在又AI，光是搞這些技術都已經頭昏眼花了，然後你還要注意到這些技術衍生資安問題，所以難度真的很高。」洪總經理描述了IT人員面臨的現實挑戰。

結語：主動安全的未來

McArdle 指出，AI看待世界的方式與現代網路風險管理方法有著驚人的相似性。大型語言模型本質上是透過概率計算來理解世界，而這與網路安全領域評估風險的概率模型高度吻合。正是這種天然的契合性，使AI成為資安領域特別理想且強大的工具。

他認為，科技行業正在投入數十億資金發展AI技術，而犯罪分子通常只有在被迫的情況下才會創新，這為安全提供商創造了獲得優勢的機會。

洪偉淦也表示：「我想這不只是趨勢的發展，我想是整個大的資安業界的發展趨勢，就是未來會從偵測防禦更進一步走向主動式的風險管理，這會是一個我們看到未來的一個趨勢。」。