歡迎登入資安人
若您還不是會員,請點選下方加入會員
忘記密碼
加入資安人會員
登入
新聞
觀點
專題
解決方案
活動
訂閱電子報
資安人粉絲團
聯絡我們
關於我們
合作詢問
隱私權政策
香港商法蘭克福展覽有限公司台灣傳媒分公司
110 台北市信義區市民大道六段288號8F
886-2-8729-1099
新聞
觀點
專題
解決方案
活動
訂閱電子報
登入
登入
訂閱電子報
新聞
觀點
專題
解決方案
活動
新聞
您現在位置 : 首頁 >
新聞
Gartner: 2028 年40% 的資訊長(CIO)需提供「守護智慧體」
2024 / 11 / 26
編輯部
Gartner 近日發佈2025年及未來重要戰略預測。Gartner 重要預測探討了生成式人工智慧(GenAI)如何影響多數人眼中只有人類才能持續影響的領域。
Gartner 傑出研究副總裁、研究主管兼院士級分析師 Daryl Plummer 表示,無論哪個領域都無法避免 AI 影響。伴隨人類 AI 應用發展,AI 也在不斷進化。AI 會讓人類生活變得更美好,直到人類無法跟上 AI 的步伐。
到 2026 年底,20% 的企業機構將使用 AI 實現組織結構扁平化,刪減一半以上的現有中層管理職位。
如果企業機構能通過佈署 AI 刪減中層管理人員,就能在短期內降低用人成本並實現長期降本增效。AI 佈署還能通過自動安排和執行任務、創建報告、以及對留任員工進行績效監控,以提升生產力和擴大控制範圍,從而使留任管理人員能專注於更具戰略性、可擴展性的增值活動。
但 AI 的實施也將給企業機構帶來挑戰,例如擔心工作受威脅的員工人數增加、管理人員會因直接下屬增多而感到負擔倍增、留任員工不願改變或採用 AI 驅動的對話模式等。此外,員工接受輔導和學習途徑可能中斷,更多初級員工可能會因缺乏發展機會而受影響。
到 2028 年,技術沉浸將造成數位成癮問題和社交隔離人群,促使 70% 企業機構實施反數位化政策。
Gartner 預測,到 2028 年,將有約 10 億人受到數位成癮問題影響。這將導致生產力下降、壓力增大以及焦慮和抑鬱等精神疾病激增。此外,數位沉浸還會對社交技能產生負面影響,尤其是更容易受這些趨勢影響的年輕一代。
數位沉浸隔離作用將導致員工隊伍脫節,大幅降低企業機構員工的生產力。企業機構須強制規定員工數位排毒期,禁止員工在下班後進行通信並恢復強制性類比工具和技術,例如無螢幕會議、無週五郵件、離開辦公桌午休等。
到 2029 年,全球將有 10% 董事會根據AI指導意見,質疑對其業務至關重要的高管決策。
AI 生成的洞察將對高管決策產生深遠影響,將賦予董事會成員質疑高管決策的能力。如果執行長(CEO)無法充分論證自己的決策,將不再能夠一意孤行。
具有影響力的 AI 洞察起初似乎只是少數派報告,不能反映董事會成員多數意見。但隨 AI 洞察有效性得到證明,想要獲得決策支援資料來提高業績的高管層將會認可這些洞察。
到 2028 年,40% 的大型企業機構將佈署 AI,借着提高盈利旗號操縱和衡量員工情緒與行為。
AI 能對工作場所互動和溝通進行情感分析,提供回饋來確保整體情緒與保證員工積極性和參與性的理想行為相吻合。
Plummer 表示,員工可能會覺得自己的自主權和隱私權受到了侵害,從而產生不滿,對企業機構的信任度隨之下降。雖然 AI 驅動的行為技術具有巨大的潛在效益,但企業機構必須在提高效率與真正關心員工福祉之間取得平衡,以避免對士氣和忠誠度造成長遠破壞。
到 2027 年,70% 新員工合同將加入對 AI 代表其角色許可與合理使用條款。
新出現的大語言模型(LLM)未設定結束日期,表示被企業機構 LLM 獲取的員工個人資料不僅會在其受雇期間保留在 LLM 中,且在其離職後仍會保留在 LLM 中。
這將引發質疑員工還是雇主擁有這些數位角色所有權的公眾辯論,且最終可能導致訴訟。合理使用條款將被用於保護企業免受直接法律訴訟,但也將充滿爭議。
到 2027 年,70% 醫療服務機構將在技術合同中加入與情感 AI 相關的條款和條件,否則可能面臨數十億美元經濟損失風險。
醫務人員工作量增加導致員工離職、患者需求增加和臨床醫生倦怠率上升的問題正在引發同理心危機。如果能在收集病人資料等任務中使用情感 AI,就可以解放醫療工作者的時間,減輕他們因工作量增加而產生的倦怠感和挫敗感。
到 2028 年,30% 標普成分股企業將使用 GenAI 標籤(如「xxGPT」)重塑品牌並開創新營收來源。
行銷長(CMO)視 GenAI 為一種利器,既可推出新產品,也將創造新業務模式。GenAI 還能將產品更快推向市場,同時提供更好的客戶體驗並實現流程自動化,為企業機構創造新營收來源。隨著 GenAI 領域競爭日趨激烈,企業正在通過開發針對本行業專業模型實現差異化。
到 2028 年,將有 25% 的企業安全性漏洞是由外部和內部惡意行為者濫用 AI 智慧體而引起。
由於 AI 智慧體大大增加企業本來已隱藏的攻擊面,因此需要採取新安全和風險解決方案。攻擊面增加將使企業機構不得不防止自己業務被狡猾的外部行為者和心懷不滿的員工通過創建 AI 智慧體所破壞。
到 2028 年,40% 的資訊長(CIO)需提供「守護智慧體」,以自主追蹤、監視或控制 AI 智慧體行動結果。
企業對 AI 智慧體的興趣日益增加。但隨 GenAI 智慧體智慧程度不斷提高,其在產品領導者戰略規劃中的應用範圍將迅速擴張。「守護智慧體」建立在安全監控、可觀測性、合規保障、道德規範、資料過濾、日誌審核等一系列 AI 智慧體機制的概念之上。到 2025 年底,隨著案例變得更加複雜,擁有多個智慧體的產品數量將穩步增加。
短期內,AI 智慧體的安全相關攻擊將成為新的威脅面。即便設置護欄、安全篩檢程式、人工監督,甚至實現安全可觀測性,也無法確保智慧體始終能夠被正當使用。
到 2027 年底,財富 500 強企業將從能源運營支出中拿出 5000 億美元投資微電網,以緩解長期能源風險和滿足AI需求。
微電網是一種將發電、儲能和負載連接到獨立能源系統的電力網絡。該系統既可以獨立運行,也可以與主電網一同運行,滿足特定區域或設施能源需求。
在未來,這將為企業機構日常運營帶來競爭優勢並降低能源風險。部分運營支出用於能源的財富 500 強企業應考慮投資微電網,這一實踐會比繼續支付不斷上漲的公用事業費用帶來更好的回報。
Gartner
GenAI
最新活動
2024.12.19
2024 企業資安前瞻論壇 : 迎向複雜資安威脅的新時代
2024.12.19
數位轉型與資安未來-打造企業級基礎設施、網路安全與API管理
2024.12.20
『Silverfort Essential︰統一身份保護平台套件』 網路研討會
2025.02.15
2025年ipas資訊安全工程師(初級/中級)-能力培訓班
看更多活動
大家都在看
企業 VPN 更新機制遭攻破,研究人員揭露權限提升攻擊鏈
重大供應鏈攻擊又一樁! 美國供應鏈管理軟體大廠 Blue Yonder 遭勒索攻擊,星巴克等企業營運受阻
Matrix 殭屍網路肆虐全球,藉 IoT 設備發動大規模 DDoS 攻擊
中國駭客組織「鹽颱風」利用新型 GhostSpider 後門程式攻擊電信業者
TWNIC報告:51.22%受訪者表示不信任政府有應對網路攻擊的能力
資安人科技網
文章推薦
俄羅斯駭客組織BlueAlpha濫用Cloudflare Tunnels發動攻擊
多家依賴 CDN 業者提供 WAF 服務的企業用戶因設定不當暴露於資安威脅
聯合情資示警:中國政府支持的網路間諜行動鎖定各國電信網路