新聞
觀點
解決方案
活動
訂閱電子報
資安人粉絲團
聯絡我們
關於我們
合作詢問
隱私權政策
法蘭克福展覽有限公司台灣分公司
110 台北市信義區市民大道六段288號8F
886-2-8729-1099
新聞
觀點
解決方案
活動
訂閱電子報
訂閱電子報
新聞
觀點
解決方案
活動
觀點
您現在位置 : 首頁 >
觀點
報告:LLM 可準確分類惡意軟體風險的比例僅有 5%
2023 / 08 / 04
編輯部
根據EndorLabs,開源在AI技術堆疊中發揮越來越重要的作用,但大多數項目(52%)引用了存在已知漏洞或易受攻擊的依賴軟體。
EndorLabs發布的《軟體依賴管理狀態報告(State of Dependency Management 2023)》顯示,ChatGPT的API發布不到5個月就被超過900個npm和PyPI套裝軟體調用,其中75%是全新的套裝軟體。EndorLabs警告,任何開源專案,都必須重視並管理依賴軟體的安全風險。
不幸的是,企業不僅低估了開源軟體API風險,更低估的API的安全性。報告稱,只有45%應用程式在程式碼庫中沒有調用安全敏感API資料。但如果包含依賴軟體,這比例將掉到5%,也就是說,多數的應用程式都會調用敏感的API資料。
EndorLabs的報告特別關注大型語言(LLM)應用程式在安全領域的影響。
LLM可以快速的開發並隱藏惡意軟體,更可能使得防禦性LLM應用程式失效。
EndorLabs表示,
ChatGPT等大型語言模型(LLM)技術目前對辨識、檢測惡意軟體的結果並不可靠。報告中指出在所有案例中準確分類惡意軟體風險的比例僅有 5%。
OpenAI GPT-3.5的準確率僅為3.4%,而Vertex AI text-bison為7.9%。因此兩種模型都會產生大量誤報,需要手動審查並阻止自動刪除套裝程式。目前將大語言模型用於安全防護的難度還很高,即使惡意軟體的評估準確率可以提高到九成以上,也不足以實現自主決策。
另外報告指出,開發人員會花費大量時間修復程式碼中的漏洞,而這些依賴軟體的漏洞有些可能沒有用在實際的應用程式。據統計,71%的典型Java應用程式碼來自開源元件,但應用程式僅使用了這些套裝軟體中的12%導入碼。漏洞存在於沒有被使用的程式碼中很難被利用,因此這些漏洞可以被排在較低等級的修補順序。
LLM
AI資安
開源碼安全
安全左移
生成式AI
最新活動
2026.12.02
【CRA 戰略高峰會】 CRA 歐洲標準第一手 Part II:直擊 CRA 調和標準進展與 EN IEC 62443 最新修訂
2026.12.02
【研討會】12/2資安AI交流展示會:當創新遇上影子AI:你真的管得到嗎?
2026.12.10
2026 企業資安關鍵報告:從法規稽核實務到零信任與 AI 攻防布局
2026.12.10
【凌群電腦資安研討會】智馭威脅,韌性先行 AI 時代下的全維度資安防禦新戰略
2026.12.16
2027 資安新戰場:AI 攻擊與未來網路攻擊防禦布局
2026.12.16
AI 時代的數位身分新防線:從人、設備到憑證的全面信任升級
2026.12.16
2027 資安新戰場:AI 攻擊與未來網路攻擊防禦布局
看更多活動
大家都在看
數發部公布「五大行動」:AI網攻已十餘家企業遭駭,個資外洩須72小時內通知當事人
SilentAir駭客入侵亞洲電信業者,鎖定台灣用戶攔截通話與簡訊
「PHP2Shell」串連零時差漏洞入侵 Check Point 閘道器,駭客抹除 VMware ESXi 資料
當 AI 能把中低風險漏洞串成攻擊鏈:勤業眾信簡宏偉談高科技業資安的新規則
「LLMJacking」攻擊升溫:Mandiant 揭露企業雲端 LLM 存取遭劫持,單日盜刷逾 10 萬美元
文章推薦
因應Oracle Java發布重大安全更新 資安署籲請加速盤點升級修補
OpenJDK 爆「Java4Shell」漏洞 CVE-2026-114938,Jenkins、Jira、Keycloak 等主流應用恐遭遠端攻擊
Tor 遭 DDoS 圍攻三週內二度緊急更新,台灣 12 個中繼節點僅 3 個升級「0.4.9.17」