在2025财年第二财季里，数据中心业务占据了英伟达接近88%的营收，优于其他业务，其中大概90%来自Hopper平台的贡献，包括H100、H200、H20、以及整合了Grace CPU的GH200解决方案，主要针对HPC（高性能计算）特定应用AI市场。英伟达对H100采取了不降价的策略，等旧订单出货完成后，将以H200取代。

随着市场对搭载H200的AI服务器需求提升，将填补Blackwell新平台因生产问题导致的延迟，这将保证英伟达今年下半年的数据中心业务收益不会受到影响。预计Blackwell平台明年将会放量，台积电（TSMC）上调了至2025年底的CoWoS封装产能，有望接近70-80K，相比2024年产能翻倍，其中英伟达将占超过一半以上的产能。

H200是首款采用8层堆叠HBM3E的GPU，后续的Blackwell系列芯片也会全面应用HBM3E。美光和SK海力士在2024年第一季度已完成了HBM3E的验证，并于第二季度批量出货。其中美光的HBM3E用于H200，SK海力士的HBM3E则同时用于H200和B100。三星的HBM3E已完成验证并开始出货，首批同样是8层堆叠产品，主要用于H200，同时Blackwell系列的验证工作也在稳步推进。

H200配备了141GB的HBM3e内存，运行速率约为6.25 Gbps，六个HBM3e堆栈为每个GPU带来4.8 TB/s的总带宽。原有的H100配备80GB的HBM3，对应的总带宽为3.35 TB/s，这是一个巨大的进步。相比于H100的SXM版本，H200的SXM版本将内存容量和总带宽分别提高了76%和43%。不过从原始计算能力来说，H200不会有太大的变化，只是在个别应用场景里会受益于更大的内存配置。

这次英伟达还带来了GH200，结合了H200 GPU和Grace CPU，将Hopper架构GPU和Arm架构Grace CPU结合，使用了NVLink-C2C将两者连接起来。每个Grace Hopper Superchip芯片平台包含了624GB的内存，其中有144GB的HBM3e和480GB的LPDDR5x内存。

瑞士国家超级计算中心的Alps超级计算机很可能是明年首批投入使用的Grace Hopper超级计算机之一，不过仍然采用的是GH100。第一个在美国投入使用的GH200系统将是洛斯阿拉莫斯国家实验室的Venado超级计算机，德州高级计算中心（TACC）的Vista系统同样采用了Grace Hopper Superchip，不过不清楚是否是GH200。

目前已知采用GH200最大的超级计算机来自于Jϋlich超级计算中心的Jupiter，里面将装入近24000个GH200芯片，人工智能计算性能为93 ExaFLOPS，另外还将提供1 ExaFLOPS的传统FP64计算性能。