https://www.informationsecurity.com.tw/seminar/2025_Digicentre/
https://secutech.tw.messefrankfurt.com/taipei/zh-tw/programme-events/AIoT_SecurityForum.html

解決方案

HPE與NVIDIA攜手推出全新企業級AI解決方案,加速為生成式、代理型及實體AI模型創造商業價值

2025 / 03 / 25
編輯部
HPE與NVIDIA攜手推出全新企業級AI解決方案,加速為生成式、代理型及實體AI模型創造商業價值
Hewlett Packard Enterprise 與 NVIDIA 宣布擴展其全新企業級 AI 解決方案 NVIDIA AI Computing by HPE 產品組合,協助客戶加速部署生成式(Generative)、代理型(Agentic)及實體AI模型,更快發揮AI的商業價值。此解決方案具備更卓越的效能、更高的能源效率與安全性,並針對全端一站式私有雲AI解決方案新增多項功能。無論企業規模大小,都能高效進行AI模型的訓練、調校與推論。

HPE 總裁暨執行長 Antonio Neri 表示,AI 正為企業帶來重大機遇,但要實現大規模應用,企業需要精簡的整合型 AI 解決方案。為了充分釋放 AI 的潛力,HPE 與 NVIDIA 攜手推出完整的 AI 解決方案組合,協助企業加速創造商業價值,從而提升生產力並開創新營收來源。

NVIDIA 創辦人裁暨執行長黃仁勳 Jensen Huang 表示,AI 正在各個產業引發巨大變革,企業正加速打造 AI 基礎設施以發展人工智慧應用。為加速這場變革,NVIDIA與HPE共同提供企業所需的全方位基礎架構,協助企業開發、訓練及大規模部署AI—包括在生成式AI、代理型AI、機器人與數位孿生技術。這項合作將加速企業的AI轉型,同時創造全新的生產力與創新機會。

HPE Private Cloud AI 提供代理型資料與應用程式的一站式解決方案

HPE 正在擴展其 HPE Private Cloud AI 功能,使其支援全新的 NVIDIA AI Data Platform。HPE Private Cloud AI 結合 NVIDIA AI Data Platform, 為企業提供最便捷途徑,有效發揮企業資料價值,進而推動資料導向之決策。

HPE Private Cloud AI 搭配 HPE GreenLake 雲端平台提供自助式雲端體驗。NVIDIA AI Data Platform 則持續通過客製化參考架構,將資料轉化為實用的商業情報,該架構整合了 NVIDIA 的加速運算、網路和 AI 軟體與企業儲存系統——這些元素都已存在於 HPE Private Cloud AI 中。

經由 HPE 與 NVIDIA 持續協作開發,HPE Private Cloud AI 專為快速部署支援 NVIDIA AI Data Platform 的藍圖和模型而設計,如 NVIDIA AI-Q Blueprints 和用於 NVIDIA Llama Nemotron  模型的 NVIDIA NIM 微服務,這些模型具備推理能力。

HPE Private Cloud AI的全新功能包括:
  • 全新HPE Private Cloud AI開發者系統:
    新開發者系統為HPE Private Cloud AI產品組合增添了即時AI測試與開發環境。該系統採用NVIDIA加速運算技術,並包含整合型控制節點、端對端AI軟體與32TB的整合儲存空間。
     
  • 統一且順暢的邊緣至雲端資料存取:
    HPE Data Fabric Software是HPE Private Cloud AI資料湖倉與HPE全新統一資料層的骨幹,可確保AI模型在混合雲環境中持續獲得優化且優質的結構化、非結構化與串流資料。
     
  • 預先驗證的NVIDIA Blueprint加速創造價值:
    HPE Private Cloud AI 現可支援快速部署的NVIDIA Blueprints,讓用戶能夠立即從NVIDIA豐富的代理型和實體AI應用程式庫中獲益。透過預先驗證的Blueprints,包括多模態 PDF 資料擷取 Blueprint 和數位孿生 Blueprint, HPE Private Cloud AI 簡化了複雜的 AI 工作負載,提供更高的效能和更快的價值實現。

HPE OpsRamp提供AI系統全方位監控與管理功能

HPE OpsRamp 的 GPU 優化解決方案現在提供 AI 原生軟體系統全方位監控與管理功能,協助企業管理大型 NVIDIA GPU 叢集上的訓練與推論工作負載效能。這項新的 GPU 優化功能可透過 HPE Private Cloud AI 獲得,也可以獨立使用以擴展至大型叢集。

HPE 也將 GPU 優化功能納入其全新的 AI 系統 Day 2 維運服務中。此服務結合 HPE Complete Care 服務與 NVIDIA GPU 效能最佳化技術,幫助 IT 團隊更有效地管理、優化混合環境中的 AI 工作負載,並主動發現及解決潛在問題。

全新代理型AI使用案例與服務

  • 於 HPE Private Cloud AI 上部署 Deloitte Zora AI:Deloitte Zora AI 財務解決方案與 HPE Private Cloud AI 的聯合解決方案即將提供給全球客戶使用。HPE 將成為首家導入此代理型 AI 平台的企業,此解決方案能將傳統的靜態財務報告轉變為動態、按需式與互動式的決策體驗,應用範圍包括財務報表分析、情境模擬、競爭與市場分析。
     
  • Crew.AI 加入 HPE Unleash AI 計畫提供多重代理自動化服務:Crew.AI 可協助企業快速建置代理型 AI 解決方案,提升團隊效率與適應力,使其作出更明智的決策。透過與 HPE Private Cloud AI 整合,企業能夠安全部署並擴展以 AI 代理為基礎的自動化功能,靈活滿足特定業務需求。
     
  • HPE推出代理型AI專業服務:新服務可以幫助企業識別、建構並部署適用於各種業務流程的代理型 AI 模型,透過整合 NVIDIA NIM 微服務與 NeMo 框架(兩者皆為 NVIDIA AI Enterprise 軟體平台的一部分),結合 HPE Private Cloud AI,加速創造商業價值。

搭載NVIDIA Blackwell Ultra及Blackwell架構的全新HPE AI伺服器

NVIDIA AI Computing by HPE推出全新AI伺服器,為AI模型訓練、調校與推論提供全方位支援。搭載NVIDIA Blackwell Ultra和NVIDIA Blackwell平台。所有伺服器均可導入NVIDIA加速運算、網路與NVIDIA AI Enterprise軟體,為下一代AI應用提供最佳效能、效率、可靠性和擴展性。
  • NVIDIA GB300 NVL72 by HPE結合HPE液冷技術,幫助服務供應商和領先企業部署大型AI叢集,可訓練兆級參數模型。此產品能提供前所未有的效能,具備最佳化的運算能力、擴增的記憶體與高效能網路連線,適用於AI推理、代理型AI與影像推論等應用。
     
  • HPE ProLiant Compute XD伺服器將支援最新NVIDIA HGX B300 平台,適用於希望訓練與調校大型AI 模型的客戶,處理最複雜工作負載,包括代理型AI和推理應用。
     
  • 配有NVIDIA GB200 Grace Blackwell NVL4 Superchip的HPE ProLiant Compute DL384b Gen12為客戶提供突破性效能,適用於整合HPC與AI工作負載,包含科學運算、圖神經網路(GNN)訓練和AI推論應用。
     
  • 配備新款NVIDIA RTX PRO 6000 Blackwell Server Edition的HPE ProLiant Compute DL384a Gen12是基於PCIe的資料中心解決方案,為各種企業AI推論與視覺運算工作負載提供頂尖效能。

全新HPE ProLiant Gen12伺服器提供全生命週期的安全防護

HPE iLO 內建晶片信任根技術,確保伺服器生命週期的每個階段安全無虞。最新的 HPE ProLiant Compute Gen12 產品組合導入了「安全隔離區」(secure enclave)增強型專用安全處理器,建立堅不可摧的信任鏈,不僅能防禦韌體攻擊,還提供從工廠端到HPE信任供應鏈的完整可視性。此款搭載 HPE iLO 7 的產品是首款支援後量子密碼學的伺服器,符合 FIPS 140-3 Level 3 高層級加密安全標準的嚴格要求。

模組化且節能的AI資料中心
  • 五十年的液冷專業技術:
    近五十年來,HPE 協助客戶應對 AI 與高效能運算(High Performance Computing,簡稱HPC)等資料密集型工作負載所帶來的挑戰,包括不斷攀升的電力需求與資料中心密度問題。HPE 在設計、建造和管理複雜的液冷環境方面擁有悠久歷史與專業技術,並成功打造出 Green500全球最節能超級電腦排行榜前 15 名中的 8 台超級電腦。
     
  • 適用於AI與HPC工作負載的模組化高效能資料中心:
    HPE專業資料中心服務推出AI Mod POD,這是專為AI與HPC工作負載所設計,採用NVIDIA加速運算,並能提供最佳效能的模組化AI資料中心。此資料中心具備極高的成本效益,單一模組可支援高達1.5MW的運算能力,並可快速部署,大幅縮短上市時程。HPE AI Mod POD支援HPE的AI與HPC伺服器以及HPE Private Cloud AI,並透過HPE的專利Adaptive Cascade Cooling技術,提供支援氣冷、100%液冷與混合式液冷的單一混合冷卻系統,以滿足資料密集型工作負載的能源需求。