https://www.informationsecurity.com.tw/seminar/2024_Cloudflare/
https://www.informationsecurity.com.tw/seminar/2024_Cloudflare/

新聞

Progress研究調查顯示,有 65% 的企業遭受資料偏差問題

2023 / 04 / 14
編輯部
Progress研究調查顯示,有 65% 的企業遭受資料偏差問題
Progress 發佈其「資料偏差:AI人工智慧的隱藏風險」的全球性調查結果。Progress的調查委由獨立研究公司Insight Avenue執行,針對超過640位的企業及IT專業人士的訪談為基礎,受訪者使用資料進行決策,且正使用或計劃使用人工智慧 (AI) 及機器學習 (ML) 來支援其做出決策。
 
偏差往往是由文化和個人經驗承襲而來。在機器學習模型收集和使用資料,做為學習訓練時,模型會繼承建模者的偏差,產生出非預期且可能有害的結果。然而,儘管資料偏差與潛在的法律及金融陷阱息息相關,但人們並不了解如何能成功解決資料偏差所需的訓練、流程和技術。
 
Progress的調查顯示,78% 的企業及IT決策者相信,資料偏差將隨著AI/ML的使用增加而成為更大的隱憂,但僅有13% 的人已經積極處理這個問題,並有一個持續的評估程序。他們認為最大障礙是缺乏對潛在偏差的認知、了解如何識別偏差,以及缺乏可用的專家資源,例如有機會接觸資料科學家。
 
調查結果顯示:
  • 66% 的企業預計在未來幾年將更依賴AI/ML來進行決策。
  • 65% 的企業認為目前企業內部就有資料偏差的現象。
  • 77% 的企業認為他們需要採取更多措施來解決數據偏差問題。
  • 51% 的企業認為缺乏對偏差的察覺和了解是幾決問題的障礙。 
Progress應用程式與資料平台執行副總裁暨總經理John Ainsworth表示:「每天,偏差都會對業務營運和決策產生負面影響 – 從安全、治理到失去客戶信任、影響財務以及潛在的法律與道德風險。客戶是我們最優先的考量,當我們探索AI/ML能做的一切事項,我們希望能確保客戶獲得正確的資訊,做出最好的決策來推動業務發展。」
 
Progress 亞太區業務副總裁John Yang 也指出:「現今愈來愈多的機器學習導入商業應用,協助企業決策,例如決定推薦什麼產品,是否批准貸款。在Progress的這分調查報告中顯示,有高達54% 的台灣受訪企業,已經使用或未來12個月內將使用機器學習等人工智能,或其他高階的計算機智能支援決策的制定,其中擔心資料偏差影響決策、造成偏見的比例達54%,遠遠高於全球平均的29%,70% 也認為資料偏差會成為企業中更大的問題。其中最擔心的資料偏差影響類型分別是金融(48%)、訊息技術與數位(48%)、銷售/贏得客戶(46%)。隨著AI使用的增長,消除AI資料偏差需要結合技術、培訓和實踐以降低風險,才能做出正確決策增加市場機會。」
 
「資料偏差:AI的隱藏風險」調查報告由Progress委託專精於企業端技術研究的英國研究公司Insight Avenue所進行的一項全球研究。受訪對象跨美國、歐洲和亞洲之企業及IT專業人士的訪談為基礎,調查聚焦在決策中的資料使用。這些專業人士皆來自具有500名以上員工的企業,以求更了解資料偏差的整體察覺度、它是如何影響企業,以及公司採取什麼措施來解決這個問題。