Gartner發佈安全且大規模實現AI價值四大新興挑戰

2024 年第二季度 Gartner 對 451 名高級技術領導者進行的一項調研顯示，57% 的資訊長（CIO）表示自身肩負企業人工智慧（AI）戰略的領導責任。然而，四大新興挑戰令 CIO 很難實現 AI 價值。
 
由於技術供應商之間持續創新競爭，CIO 常常覺得自己身處技術炒作中；但在推動 AI 成果方面的事實——價值難以實現，又讓他們感到身處低谷。
 
Gartner 傑出研究副總裁兼院士級分析師 Hung LeHong 表示，CIO 其實可以掌控 AI 成果推進節奏。如果企業 AI 目標較為適中，且所在行業尚未被 AI 顛覆，CIO 可採用相對穩健的節奏，即穩步 AI 化計畫（AI-steady pace）。如果企業 AI 目標更為宏大，或所在行業正被 AI 重塑，CIO 就需要採用更快速節奏，即加速 AI 化計畫（AI-accelerated pace）。無論是以穩步 AI 化計畫還是以加速 AI 化計畫前進，最終都必須推動價值和成果的實現。

使用AI未必總能實現業務效益

使用生成式人工智慧（GenAI）創造業務價值前提是，必須在工作流程中持續使用 GenAI 工具。2024年第二季度，Gartner 對美國、英國、印度、澳大利亞和中國 5,000 多名數位工作者進行調研。結果顯示，使用 GenAI 的員工平均每週可節省 3.6 小時，但並非所有使用 GenAI 的員工都能獲得同等程度的效益。
 
這是 AI 生產力面臨的真正挑戰。GenAI 帶來的生產力提升並非均勻分佈，而是因員工而異，這不僅是因為個人興趣和採用程度存在差異，還取決於工作複雜程度和經驗水準。
 
採用加速 AI 化計畫的企業機構不僅尋求生產力方面的效益，還在尋求其他層面、包括運營和流程層面的改進（例如實現關鍵業務流程自動化或重塑與聊天機器人協作的職位）以及業務層面的變革性改進（例如能夠創造新收入來源或重塑企業價值主張的成果）。
 
在這種情況下，CIO 應像管理投資組合一樣管理 AI 收益，確定每個收益領域的投入大小，並平衡整個組合的風險與回報。

AI成本可能會迅速失控

Gartner 於 2024 年 6 月和 7 月對 300 餘名 CIO 進行調研的結果顯示，超過 90% 的 CIO 表示成本管理限制了其利用 AI 創造價值的能力。實際上，Gartner 認為成本是與安全或幻覺同等重要的 AI 風險。
 
根據 Gartner 的估算，如果不瞭解 GenAI 成本如何擴展，CIO 成本計算可能會出現高達 5 到 10 倍誤差。
 
CIO 需要清楚 AI 成本構成，不僅要瞭解成本組成和定價模式選項，還要掌握如何降低成本並與供應商談判。CIO 應創建概念驗證，除測試技術的可行性外，還要重點評估成本的擴展情況。

無處不在的資料和AI帶來了新的挑戰和風險

AI 和資料在企業中廣泛應用，已不再是IT部門直接控制的集中資產。Gartner 對 300 餘名 CIO 進行的調研發現，未來平均只有 35% 的 AI 能力由內部 IT 團隊構建。這意味著企業需要採取新方法管理和保護資料存取、治理AI輸入和輸出，並安全實現 AI 價值。
 
在描述未來的AI技術堆疊時，分析師表示，這裡將涉及『技術架構組合』概念。組合底層是所有來自IT的資產，通常是集中的資產；頂部是來自企業各處的資產，通常是分散的資產；中間則是保證所有資產安全的信任、風險和安全管理（TRiSM）技術。這種下拉式列示方塊架有助於企業應對各種類型的AI和資料。

CIO 應當設計一個技術架構組合，既能應對 AI 複雜性，又能對新機遇保持開放。採取穩步 AI 化計畫的企業機構（AI 專案不超過十個）將通過人類團隊和委員會管理其技術架構組合。採用加速 AI 化計畫的企業機構將通過引入 TRiSM 技術——一系列用於建立信任、監控風險、管理安全的技術，以確保大規模 AI 應用的安全性。

使用AI對員工績效和福祉來說是一把雙刃劍

有些員工可能會很喜歡 AI 工具，有些則會感覺受到威脅或產生反感。對 AI 的強烈反應可能會引發意想不到的行為結果，進而對員工工作表現產生負面影響，例如嫉妒使用 AI 的同事以及過度依賴 AI 工具等。
 
然而，很少有企業機構在積極管理這些行為結果。Gartner 在 2024 年 6 月和 7 月進行的調研顯示，只有 20% 的 CIO 表示自己致力於減少 GenAI 對員工福祉的潛在負面影響。
 
大多數企業不太關心員工對 AI 的感受，但這一點其實很重要，因為 AI 可能會引發各種意想不到的行為結果。關鍵在於，通過變革管理解決這個問題時，企業必須明確行為結果的相應負責人，像管理技術和業務成果一樣嚴格管理行為結果。