NVIDIA Grace-Hopper平台在GTC 2024展会上:QCT QuantaEdge EGX77GE-2U

快速导读:在GTC 2024展会上,QCT展台展示了令人印象深刻的NVIDIA Grace-Hopper平台,特别是QCT QuantaEdge EGX77GE-2U服务器。这款2U短深度服务器配备了强大的NVIDIA GH200。本文将概述QCT QuantaEdge EGX77GE-2U的设计和主要功能,并讨论NVIDIA GH200在边缘平台上的潜在用途和能力。

QCT QuantaEdge EGX77GE-2U概述

QCT QuantaEdge EGX77GE-2U是一款短深度2U服务器,具有独特的设计。前面板设计集成了所有的电缆和输入/输出接口。机箱的左侧设有散热口,中间部分包含两个E1.S NVMe SSD插槽。机箱的右侧专门用于裸机的前置输入/输出,包括三个PCIe Gen5 x16扩展槽和冗余电源。PCIe槽配备了后部支撑,以确保卡片的安全安装,机箱还配备了风扇以实现高效散热。

NVIDIA GH200及其组件

NVIDIA GH200,也被称为Grace Hopper,位于机箱的左侧。可以看到GH200的主板或载板,以及连接到PCIe槽的多个MCIO连接器。GH200模块采用了庞大的散热器,因为它需要1千瓦的功率来支持其组件,包括72核的Arm CPU、H200 GPU和LPDDR5内存(约半TB)。虽然GH200是为高功率边缘平台设计的,但它主要用于概念验证系统,特别是在GB200的发布之后。尽管如此,它仍然是一个独特而有趣的系统。

潜在用途和能力

GH200在边缘应用场景中引起了客户的兴趣。通过将FPGA卡或其他设备添加到PCIe扩展槽中,可以提升边缘平台的能力,超越H100 PCIe卡的性能。然而,值得注意的是,在GB200的发布之后,H200并不被认为是主要的部署选择,主要用于概念验证系统。尽管如此,QCT QuantaEdge EGX77GE-2U和NVIDIA GH200通过其令人印象深刻的设计和能力,展示了边缘计算的未来。