歡迎登入資安人
若您還不是會員,請點選下方加入會員
忘記密碼
加入資安人會員
登入
新聞
觀點
專題
解決方案
活動
訂閱電子報
資安人粉絲團
聯絡我們
關於我們
合作詢問
隱私權政策
香港商法蘭克福展覽有限公司台灣傳媒分公司
110 台北市信義區市民大道六段288號8F
886-2-8729-1099
新聞
觀點
專題
解決方案
活動
訂閱電子報
登入
登入
訂閱電子報
新聞
觀點
專題
解決方案
活動
觀點
您現在位置 : 首頁 >
觀點
報告:LLM 可準確分類惡意軟體風險的比例僅有 5%
2023 / 08 / 04
編輯部
根據EndorLabs,開源在AI技術堆疊中發揮越來越重要的作用,但大多數項目(52%)引用了存在已知漏洞或易受攻擊的依賴軟體。
EndorLabs發布的《軟體依賴管理狀態報告(State of Dependency Management 2023)》顯示,ChatGPT的API發布不到5個月就被超過900個npm和PyPI套裝軟體調用,其中75%是全新的套裝軟體。EndorLabs警告,任何開源專案,都必須重視並管理依賴軟體的安全風險。
不幸的是,企業不僅低估了開源軟體API風險,更低估的API的安全性。報告稱,只有45%應用程式在程式碼庫中沒有調用安全敏感API資料。但如果包含依賴軟體,這比例將掉到5%,也就是說,多數的應用程式都會調用敏感的API資料。
EndorLabs的報告特別關注大型語言(LLM)應用程式在安全領域的影響。
LLM可以快速的開發並隱藏惡意軟體,更可能使得防禦性LLM應用程式失效。
EndorLabs表示,
ChatGPT等大型語言模型(LLM)技術目前對辨識、檢測惡意軟體的結果並不可靠。報告中指出在所有案例中準確分類惡意軟體風險的比例僅有 5%。
OpenAI GPT-3.5的準確率僅為3.4%,而Vertex AI text-bison為7.9%。因此兩種模型都會產生大量誤報,需要手動審查並阻止自動刪除套裝程式。目前將大語言模型用於安全防護的難度還很高,即使惡意軟體的評估準確率可以提高到九成以上,也不足以實現自主決策。
另外報告指出,開發人員會花費大量時間修復程式碼中的漏洞,而這些依賴軟體的漏洞有些可能沒有用在實際的應用程式。據統計,71%的典型Java應用程式碼來自開源元件,但應用程式僅使用了這些套裝軟體中的12%導入碼。漏洞存在於沒有被使用的程式碼中很難被利用,因此這些漏洞可以被排在較低等級的修補順序。
LLM
AI資安
開源碼安全
安全左移
生成式AI
最新活動
2024.08.02
2024 政府資安發展論壇
2024.08.16
資安長高階領導班
看更多活動
大家都在看
微軟大當機!疑似與資安軟體Crowdstrike更新有關
2024 關鍵基礎設施調查報告:能源與水利復原成本四倍暴增,漏洞利用攻擊占半數
台灣資安大聯盟正式成立 致力打造台灣成為全球數位安全領導者
Google 擬以 230 億美元收購 Wiz 強化雲端安全布局
TXOne Networks宣布任命Stephen Driggers擔任營收長
資安人科技網
文章推薦
Check Point 與逢甲大學攜手合作 打造中臺灣資安人才培育基地
F5 SOAS AI 2024報告 :資料治理和安全問題存在差距,企業仍在擴大部署AI
微軟大當機!疑似與資安軟體Crowdstrike更新有關