单机1EP能力！英伟达推出GH200超级计算机

2023-05-30 05:46:20 做者：老王

COMPUTEX-NVIDIA公司今天公布推出一款新型大内存AI超等计算机--NVIDIA DGX™超等计算机，该计算机由NVIDIA® GH200 Grace Hopper超等芯片和NVIDIA NVLink®交换机系统供给动力，旨在为生成型AI语言利用、选举系统和数据阐发工做负载开发巨型的下一代模子。

[#zolsplit_eca_zolecjd电商妥帖区域分隔符起头#]

[经销商]

[产物售价]

[#zolsplit_ecb电商妥帖区域分隔符完毕#]

NVIDIA DGX GH200的浩荡共享内存空间操纵NVLink互连手艺与NVLink交换系统，将256个GH200超等芯片连系在一路，使它们可以做为单个GPU来施行。那供给了1exaflops的性能和144T的共享内存，比2020年推出的上一代NVIDIA DGX A100的内存多出近500倍。

展开全文

"生成性人工智能、大型语言模子和选举系统是现代经济的数字引擎，"英伟达开创人兼首席施行官黄仁勋说。"DGX GH200 AI超等计算机整合了英伟达更先进的加速计算和收集手艺，以拓展AI的前沿范畴。"

英伟达NVLink手艺扩展了AI的规模

GH200超等芯片利用NVIDIA NVLink-C2C芯片互连，将基于Arm的NVIDIA Grace™ CPU与NVIDIA H100 Tensor Core GPU连系在统一封拆中，从而消弭了对传统CPU至GPU的毗连的需求。与最新的PCIe手艺比拟，那将GPU和CPU之间的带宽进步了7倍，将互连功耗削减了5倍以上，并为DGX GH200超等计算机供给了一个600GB的Hopper架构GPU构建块。

DGX GH200是第一台将Grace Hopper超等芯片与NVIDIA NVLink交换系统配对利用的超等计算机，NVLink交换系统是一种新的互连体例，可以使DGX GH200系统中的所有GPU做为一个整体协同工做。上一代系统只供给八个GPU与NVLink连系为一个GPU，而不影响性能。

DGX GH200架构供给的NVLink带宽是上一代的48倍，以单颗GPU的简单编程供给了大规模AI超等计算机的才能。

为人工智能前驱者供给的新研究东西

谷歌云、Meta和微软是首批有看获得DGX GH200的用户，以摸索其在生成型AI工做负载方面的才能。英伟达还诡计将DGX GH200的设想做为蓝本提赐与云办事供给商和其他超大规模企业，以便他们可以为本身的根底设备进一步定造。

"谷歌云计算副总裁Mark Lohmeyer表达："构建先辈的生成模子需要立异的AI根底设备办法。"新的NVLink规模和Grace Hopper超等芯片的共享内存处理了大规模人工智能的关键瓶颈问题，我们等待着为谷歌云和我们的生成性人工智能方案摸索其才能。"

"跟着人工智能模子越来越大，它们需要强大的根底设备，能够扩展以称心日益增长的需求，"Meta公司根底设备、人工智能系统和加速平台副总裁Alexis Bj?rlin说。"NVIDIA的Grace Hopper设想看起来为研究人员供给了摸索新办法的才能，以处理他们更大的挑战。"

"操练大型人工智能模子在传统上是一项资本和时间密集型使命，"微软Azure根底设备公司副总裁Girish Bablani说。"DGX GH200处置TB级数据集的潜力将使开发人员可以以更大的规模和加速的速度停止先辈的研究。"

新的NVIDIA Helios超等计算机将鞭策研究和开发

英伟达正在建造本身的基于DGX GH200的人工智能超等计算机，为其研究人员和开发团队的工做供给动力。

那台超等计算机被定名为NVIDIA Helios，它将拥有四个DGX GH200系统。每个系统都将与英伟达Quantum-2 InfiniBand收集互连，为操练大型人工智能模子进步数据吞吐量。Helios将包罗1,024个Grace Hopper超等芯片，估量将于本年岁尾上线。

完全集成，专为巨型模子而生

DGX GH200超等计算机包罗英伟达软件，为更大的人工智能和数据阐发工做负载供给了一个交钥匙的全栈处理计划。NVIDIA Base Command™软件供给了AI工做流程治理、企业级集群治理、加速计算、存储和收集根底设备的库，以及为运行AI工做负载而优化的系统软件。

此外，还包罗NVIDIA AI Enterprise，那是NVIDIA AI平台的软件层。它供给了100多个框架、预操练模子和开发东西，以简化消费型AI的开发和摆设，包罗生成型AI、计算机视觉、语音AI等。

赐与情状

NVIDIA DGX GH200超等计算机估量将于本年岁尾上市。