新平台专为处理大语言模型、推荐系统、矢量数据库等全球最复杂的生成式AI工作负载而构建，将提供多种配置选择。

该平台采用双配置——提供的内存容量和带宽比当前产品分别增加了3.5倍和3倍——包括一个拥有144个ArmNeoverse内核、8petaflops的AI性能和282GB最新HBM3e内存技术的单个服务器。

NVIDIA创始人兼首席执行官黄仁勋表示：“为了满足对生成式AI不断激增的需求，数据中心需要能够满足特定需求的加速计算平台。全新GH200GraceHopper超级芯片平台以出色的内存技术和带宽，提高了吞吐量，在不影响性能的情况下可连接多GPU以整合性能，并且具有可以轻松部署到整个数据中心的服务器设计。”

新平台采用了GraceHopper超级芯片，可以通过NVIDIANVLink™与其他超级芯片连接，使它们能够协同工作，从而部署当下大型生成式AI模型。这种高速、一致性技术使GPU可以完全访问CPU内存，在双配置中可提供总计1.2TB的快速内存。

HBM3e内存比当前HBM3快50%，可提供总计10TB/s的带宽。这使得新平台能够运行比上一版本大3.5倍的模型，同时凭借快3倍的内存带宽提升性能。

英伟达表示，预计业界领先的系统制造商将于2024年第二季度开始交付搭载该平台的系统。

日前，有外媒披露，百度、字节跳动、腾讯和阿里巴巴已下价值10亿美元的订单，将从英伟达(NVDA.O)购买约10万颗A800处理器，这些处理器将于2023年交付。两位接近英伟达的人士表示，这些企业还购买了价值40亿美元的GPU处理器，将于2024年交付。

早前，大众对人工智能的热情高涨之际，大多数互联网巨头的库存芯片都不到几千个，这些芯片可用于训练大型语言模型。从那时起，这些芯片的价格开始飙升。