中国·澳门新葡萄新京威尼斯(987-官方网站)-Ultra Platform

/ EN
13922884048

技术交流

Technology Exchange
/
/

英伟达GPU最容易混淆的两对概念,一定要早点搞清楚

发布时间:2024-06-07作者来源:澳门新葡萄新京威尼斯987浏览:1212


DGX和HGX

英伟达的DGX和HGX平台都是为AI和高性能计算(HPC)设计的,但它们在设计理念、定制化程度以及目标市场等方面存在一些差异。

DGX是英伟达提供的软硬件完整封装,无法定制的标准化一体机,英伟达DGX推出的最主要目的,是卖给不差钱的客户,提高客单价和利润率。

图片
常见的DGX 一体机外观

DGX作为一个完整的小型机,强调简易性和便捷性,可以快速部署和运行,适合需要即用型解决方案的大型企业,DGX通过如DGX SuperPOD这样的解决方案提供了很好的可扩展性,比如Nvidia[敏感词]发布的DGX GB200 SuperPod,由8个NVL72组成,共576个B200 GPU。

图片

一个具体的DGX 一体机配置(DGX B200)

从DGX B200的配置可以看出,一个DGX 工作站包含了了完整的GPU、CPU、存储和网络,是一个非常标准化的 Rack Units。

HGX是英伟达提供的GPU模组,可以灵活地组装成不同配置和型号的服务器,英伟达HGX推出的最主要目的,是方便OEM厂商集成。

图片

常见的HGX 模组外观

HGX是一个模块化的AI超算平台,提供了与DGX系统相媲美的高性能,HGX平台为原始设备制造商(OEM)提供了一个高度可定制的硬件平台,可以根据客户的特定需求来调整和优化系统配置。HGX平台更注重灵活性和定制化,允许客户自由选择和调整CPU、RAM、存储和网络配置。

图片

一个具体的HGX 模组配置

从HGX B200的配置可以看出,HGX B200只包含了8卡B200 GPU以及把他们串联起来的NVSwitch。跟DGX相比,少了CPU、存储和网络,企业或者OEM厂商可以进行灵活配置。

SXM和PCIe

英伟达的SXM(Scalable eXtensible Module)和PCIe(Peripheral Component Interconnect Express)是两种不同的接口技术,它们在设计理念、应用场景以及性能特点上的异同如下:

NVIDIA SXM 特点:

  1. 高带宽连接:SXM是专为NVIDIA的高端GPU设计的接口,提供高带宽连接,用于数据中心和高性能计算(HPC)环境。
  2. NVLink技术:SXM接口使用NVLink技术实现GPU之间的高速连接,支持多GPU直接互联,提供更高的显存带宽和更低的通信延迟。
  3. 专为GPU设计:SXM接口是专为GPU设计的,通常用在NVIDIA的DGX系统板上,通过NVSwitch实现NVLink的连接。
  4. 供电与冷却:SXM接口可以处理GPU的供电,无需外部电源线,并且可以采用更高效的冷却选项,允许GPU以更高的TDP运行。
  5. 维护性:由于是专为GPU设计的,SXM接口提供了更好的稳定性和可靠性,减少了系统故障的可能性。
    图片

常见的SXM机型组网

PCI Express (PCIe) 特点:
  1. 通用性:PCIe是一种通用的计算机扩展总线标准,广泛用于连接各种计算机扩展卡,如显卡、声卡、网络卡等。
  2. 数据传输速率:PCIe提供高速串行计算机扩展总线连接,具有不同版本和通道宽度,支持不同的数据传输速率。
  3. 点对点连接:PCIe采用点对点连接方式,在每个PCIe设备和主板之间建立独立的通信通道。
  4. 灵活性:PCIe接口支持多种设备,具有很好的灵活性和扩展性,可以通过扩展卡提升系统性能。
  5. 电源管理:PCIe设备通常需要外部电源供应,且功耗管理相对SXM来说可能不那么优化。
图片

见的PCIe组网

SXM和PCIe异同点总结:

  1. 性能:SXM通常提供比PCIe更高的带宽和更低的延迟,特别是在多GPU互联的场景下。
  2. 设计用途:SXM专为NVIDIA的高性能GPU设计,而PCIe是一种通用接口,适用于各种计算机扩展卡。
  3. 连接方式:SXM使用NVLink技术实现多GPU互联,而PCIe通常通过主板上的插槽连接扩展卡。
  4. 供电与冷却:SXM接口集成供电和高效冷却设计,而PCIe GPU可能需要额外的电源和冷却解决方案。
  5. 市场定位:SXM更多地用于数据中心和HPC环境,而PCIe面向更广泛的消费者和商用市场。

免责声明:本文采摘自网络,本文仅代表作者个人观点,不代表澳门新葡萄新京威尼斯987及行业观点,只为转载与分享,支持保护知识产权,转载请注明原出处及作者,如有侵权请联系我们删除。

服务热线

0755-83044319

霍尔元件咨询

肖特基二极管咨询

TVS/ESD咨询

获取产品资料

客服微信

微信服务号