Red Hat (紅帽) 攜手 NVIDIA 推出人工智能工廠方案
[香港] — 全球領先的開源解決方案供應商 Red Hat 今日宣布推出 「Red Hat AI Factory with NVIDIA」 的新平台。該軟件平台結合 Red Hat AI Enterprise 和 NVIDIA AI Enterprise，為進行大規模人工智能部署的企業提供最佳的端到端人工智能解決方案。「Red Hat AI Factory with NVIDIA」 作為雙方深厚合作的最新里程碑，不僅讓企業能即時接軌最前沿的人工智能創新技術，加速運算軟件，更針對 NVIDIA 硬體架構提供 Day 0 支援，確保軟硬體效能的同步，為構建、部署及規模化擴展人工智能應用提供統一基礎。
根據IDC預測1，隨著代理式人工智能（Agentic AI）應用的普及化，企業會在人工智能領域的支出將於 2029 年超出1兆美元。企業正在調整策略，轉向高密度、代理式的工作流，因此對人工智能推理及基礎設施的需求將會提高。為幫助企業迎接挑戰，「Red Hat AI Factory with NVIDIA」 賦能 IT 運營團隊，簡化傳統基礎設施及人工智能技術不斷演進的需求。
加速實現企業級人工智能規模化生產
「Red Hat AI Factory with NVIDIA」 加速企業向生產級人工智能的轉型，為人工智能工廠提供強大的軟件基礎。它運行於加速運算基礎設施之上，顯著提升模型和 NVIDIA GPU 推理的效能。此外， Cisco、Dell Technologies、Lenovo 及Supermicro 等領先系統製造商的人工智能工廠基礎建設都支援此平台，讓 IT 管理員在擴展與維護人工智能部署時，按照企業級工作負載的標準進行管理。
這個共同研發的軟件平台結合了 Red Hat 和 NVIDIA 在開源協作、工程設計和支援方面的專業知識，提供一個值得信賴的企業級解決方案。「Red Hat AI Factory with NVIDIA」 為各類環境（包括本地、雲端及邊緣）下的人工智能部署提供高度可擴展的基礎架構。此平台的核心功能包括高效能人工智能推理、模型微調、客製化能力及代理的部署與管理，亦同時重視系統安全性。以上功能讓企業從數據中心到公有雲的運作都能保持架構管理權，從而帶來以下優勢：
縮短價值實現週期：透過簡化工作流程及即時接駁預配置模型，加速企業向生產級人工智能的轉型。這些模型包括 IBM Granite 系列產品、NVIDIA Nemotron 及 NVIDIA Cosmos 開放模型。同時，企業亦可利用 NVIDIA NeMo 根據企業資料自訂模型，從而降低微調成本及時間。
優化效能與成本：通過統一的高效能服務，充分利用基礎設施及提升推理性能。「Red Hat AI Factory with NVIDIA」 內置觀測功能，結合 vLLM、NVIDIA TensorRT-LLM 和 NVIDIA Dynamo 的 Red Hat AI 推理技術，以滿足精密的人工智能服務水平。這使企業能夠優化模型與 NVIDIA GPU 之間的磨合，從而降低人工智能的總體擁有成本 (TCO)。
智慧GPU編排：智慧編排和池化基礎架構可按需存取GPU資源，而自動檢查點機制則能保護長時間運作的作業；即使在動態環境中也能維持可預測的運算成本。
強化企業安全：透過 Red Hat Enterprise Linux 靈活可靠的基礎架構，企業可以從初期就利用其內建的進階安全性和合規性功能，降低風險、節省時間並減少停機時間。這為需要隔離及持續驗證的關鍵任務型人工智能工作負載提供了強化的安全基礎。在此基礎上，NVIDIA DOCA 微服務進一步構建了零信任架構，確保人工智能運行時安全無虞。
( 內容由有關方面代表提供, 經編輯後刊登 )
