.紅 帽 推 出 企 業 級 推 理 伺 服 器紅 帽 推 出 企 業 級 推 理 伺 服 器
為混合雲中的任何模型及加速器解鎖生成式 AI 潛力
【香港】— 紅帽於紅帽全球峰會(Red Hat Summit)宣布推出人工智能推理伺服器(Red Hat AI Inference Server),邁出生成式人工智能普及至混合雲的重要一步。作為紅帽 AI 的全新企業級推理伺服器,此解決方案不僅源自於強大的 vLLM 社群專案,並透過紅帽整合 Neural Magic 技術加以強化,提供更快的速度、更高的加速器效率與更佳的成本效益,幫助實現紅帽的願景,亦能於任何雲端環境、任何 AI 加速器上執行各種生成式 AI 模型。不論是獨立解決方案,或是作為紅帽企業Linux AI(RHEL AI)和紅帽OpenShift AI的集成功能,這一突破性平台讓企業能更有效地在生產環境中部署和擴展生成式AI。
AI推理伺服器結合vLLM與Neural Magic技術 為混合雲提供更快 更高效 更具成本效益的AI推理解決方案
閱讀全文...
|
|
|
|
|
|
JPAGE_CURRENT_OF_TOTAL |