据TrendForce报道，黄仁勋表示三星必须开发出一种“新设计”，以便通过英伟达的验证，对方也确实这么去做了，而且动作还很快。自去年以来，黄仁勋被多次问到涉及三星HBM3E的问题，一直保持乐观的态度，称这些芯片处于“合格”阶段，英伟达正迅速完成认证工作。

目前SK海力士是英伟达主要的HBM供应商，已经提供了8层和12层堆叠的HBM3E芯片，最近还公布了16层堆叠的HBM3E，预计2025年上半年向英伟达提供样品，开始验证工作。相比之下，三星的进度远远落后于竞争对手。

另外还有一个值得注意的是GDDR7，随着GeForce RTX 50系列的发布，英伟达是首个采用GDDR7的客户。过去有报道称，三星在台式机使用的独立显卡上独占了GDDR7显存的供应，而发布会上黄仁勋透露搭配的是美光的GDDR7芯片。

当被问及为何选择美光作为GDDR7首发供应商时，黄仁勋表示不太清楚原因，认为这可能没什么大不了的，

上个月SK海力士代表理事兼社长郭鲁正在首尔举行的SK AI峰会上发表主题演讲，宣布推出全球首款48GB的HBM3E，通过16层堆叠实现。据TrendForce报道，2024年临近结束前，SK海力士已经为16层堆叠HBM3E明年的大规模生产做好准备，而且早期测试显示出可喜的结果。

有消息人士透露，SK海力士正在为16层堆叠HBM3E生产集成新设备并优化现有设施，目标是在2025年上半年供货。看起来SK海力士在HBM3E上会继续领先于竞争对手，至少时间表上是这样的。虽然市场普遍认为从HBM4开始才能实现16层堆叠要，但是SK海力士并没有在HBM3E上选择放弃，一直坚持开发，以确保产品的稳定性。

SK海力士在16层堆叠HBM3E上应用了量产获得验证的先进MR-MUF技术，同时还在积极开发作为后端工艺的混合键合（Hybrid Bonding）。SK海力士计划2025年初向客户提供样品，预计会用于英伟达Blackwell架构产品的下一次迭代中。

据Daily Korea报道，有熟悉三星内部事务的消息人士透露，三星今年已经不太可能向英伟达供应HBM3E，包括8层和12层堆叠的产品，预计要等到明年，供货延迟的原因是该公司在芯片性能方面未能满足英伟达的要求。

有消息指出，三星未能通过验证测试向英伟达供应HBM3E，主要原因是SK海力士的HBM3E性能表现太好，使得标准定得非常高。有业内人士推测，SK海力士采用的MR-MUF工艺，比起三星的TC-NCF工艺在HBM3E制造上带来了优势。加上SK海力士的HBM3E更早之前就开始大量向英伟达供货，过去一年多里，拉大了与三星之间的差距，无论是市场占有率还是技术方面。

不过三星2025年仍然是有机会的，毕竟英伟达对HBM产品的需求量极大，多方采购更符合自身利益。上个月英伟达创始人兼CEO黄仁勋在出席香港科技大学的活动时表示，由于产品面临的巨大市场需求，正在加速验证三星提供了8和12层堆叠产品，以便双方尽快开展相关业务。

据TrendForce报道，近日黄仁勋在出席香港科技大学的活动时，接受了媒体的采访，澄清了英伟达对三星HBM3E芯片的持续评估，表示由于产品面临的巨大市场需求，正在加速验证三星提供了8和12层堆叠产品，以便双方尽快开展相关业务。

上个月初，三星罕见地向投资者致歉，并警告其第三季度净利润可能低于市场预期，原因是关键客户的AI芯片业务延迟对业绩产生了负面影响，承认HBM3E向主要客户供应的时间晚于预期。虽然三星没有没有点出这位关键客户的名字，但是市场普遍认为就是英伟达。在后来的季度财报电话会议上，三星还特意强调了满足HBM客户需求的重要性，并确认8和12层堆叠的HBM3E芯片已进入量产阶段，对第四季度的销售增长表示乐观。

竞争对手SK海力士几乎垄断了英伟达HBM产品供应，双方保持牢固的合作伙伴关系，随着AI芯片市场需求持续增长，这种独家供应商的地位为SK海力士带来了巨大的利润。美光之前已开始向英伟达供应HBM3E芯片，逐渐提升了市场占有率。美光之前已开始向英伟达供应HBM3E芯片，逐渐提升了市场占有率，显然三星也想尽快加入，从中分一杯羹。

过去一年多里，随着人工智能（AI）需求的带动，HBM产品成为了存储器厂商的主要投资项目，三星也不例外，认为这是一个难得的市场机遇，能缩小与竞争对手在HBM细分市场的差距。为此三星制定了雄心勃勃的计划，不但加大了HBM3、HBM3E和HBM4的开发力度，而且还打算扩张产能，并将普通DRAM的产能转移到HBM产品上。三星预计，其HBM产品的销售额将在2024年下半年增长3到5倍。

然而情况在过去几个月里发生了变化，三星的HBM产品销售不佳，为此逐渐放慢了步伐。有消息人士透露，只有确认向英伟达稳定供应HBM3E后，才会进一步展开投资讨论。三星的HBM3和8层堆叠的HBM3E一直没有达到稳定的良品率，想快速转向12层堆叠HBM3E也不太可能在较短时间内改善良品率。

目前英伟达的B200和GB200，以及AMD的Instinct MI325X/MI350系列等关键产品均打算采用12层堆叠HBM3E，这些系统对稳定性的要求也更高，加上需要大规模生产，增加了不确定性，情况也变得更为复杂。在HBM3E高需求推动下，预计SK海力士的营业利润将大幅度增加，可能会超过三星半导体部门。

SK海力士强调:“自2013年全球首次推出第一代HBM（HBM）至第五代HBM（HBM3E），公司是唯一一家开发并向市场供应全系列HBM产品的企业。公司业界率先成功量产12层堆叠产品，不仅满足了人工智能企业日益发展的需求，同时也进一步巩固了SK海力士在面向AI的存储器市场的领导者地位。”

据官方的介绍，12层堆叠的HBM3E采用了12颗3GB DRAM芯片，实现与现有的8层产品相同的厚度，同时容量提升50%。为了实现此目标，SK海力士将单个DRAM芯片制造得比以前薄40%，并采用硅通孔技术（TSV）技术垂直堆叠。此外，SK海力士还解决了将变薄的芯片堆叠更多时产生的结构性问题，将先进MR-MUF工艺应用到新产品中，放热性能较上前一代提升了10%，并增强了控制翘曲问题，从而确保了稳定性和可靠性。

SK海力士确认，将在年内向客户供应最高性能、最大容量的12层HBM3E产品。

美光提供的HBM3E产品拥有16个独立的高频数据通道，采用了1β（1-beta）工艺打造，封装规格为11mm x 11mm，堆叠12层的24Gb裸片，提供了36GB容量，带宽超过1.2TB/s、引脚速度超过9.2GB/s。美光将硅通孔（TSV）增加了一倍，封装互连缩小了25%，功耗比起竞品降低了30%。美光凭借先进CMOS技术创新，结合先进的封装技术，提供了改善热阻抗的结构解决方案，有助于改善立方体的整体散热表现，加上大幅度降低的功耗，为客户提供了功耗更低、散热效率更高的HBM3E产品。

台积电生态系统和联盟管理负责人Dan Kochpatcharin表示：“台积电和美光一直保持着长期的战略合作伙伴关系。作为OIP生态系统的一部分，我们密切合作，让美光基于HBM3E的系统和CoWoS封装设计能够支持客户的人工智能创新。”

目前美光正在向主要行业合作伙伴运送量产型的12层垂直堆叠HBM3E，用于整个人工智能生态系统的测试，以便获得相关的资格认证。与此同时，美光已经在开发下一代的解决方案，包括HBM4和HBM4E，继续突破DRAM性能界限，确保美光的产品可以满足AI芯片对日益增长的内存性能需求，以保持行业领先地位。

根据媒体报道，SK海力士已成为首批宣布量产12层HBM3E的公司之一，并表示预计将在下个季度开始出货。12层的HBM3E容量要比现在的大得多，单颗容量可达36GB，而8层HBM3E则为24GB。新的HBM3E内存采用了TSV硅通孔技术，可实现更高的传输速率和更小的信号损失，目前12层HBM3E尚未被市场正式采用，但传闻NVIDIA会在Hopper和Blackwell架构AI GPU的高阶型号上使用它。

SK海力士在HBM上是比较领先的，据说他们的HBM生产线已经预定到2025年，预计未来几年还会持续增长，这都要归功于AI热潮到来的巨量需求。SK海力士明年还将推出新一代的HMB4内存，预计2026年量产。HBM4把存储和逻辑模块封装在一起，这是这种新内存备受期待的功能之一，这种新的内存标准可能会彻底改变市场。HBM4通常会被标记为多功能芯片，并且无需使用封装技术。

HBM市场的未来看起来非常美好，预计在未来几季将迅速发展，内存厂商会如何在这片市场竞争并攀登顶峰会很有趣，目前来看SK海力士与三星、美光等其他厂商有这巨大的差距。

SK海力士在Semicon Taiwan 2024上还指出，定制化将成为HBM的一个重要趋势，标准和定制HBM之间的主要区别在于基础逻辑芯片，因为已经集成了客户的IP，不过两者具有相似的核心芯片。与其他DRAM产品不同，HBM在定价和设计方面将越来越多地脱离标准DRAM框架，转向更专业的生产。

此前有报道称，为了将HBM4E的性能提升到一个新的水平，SK海力士计划推出一种能够实现计算、缓存和网络内存等多种功能的HBM类型。现阶段这只是一个概念，为了实现这一目标，SK海力士已开始着手半导体设计工作。

事实上，SK海力士对直接将逻辑芯片与HBM堆栈集成特别感兴趣，同时客户也对3D封装表现出了兴趣。SK海力士打算在未来三年内将小芯片技术集成到其内存控制器中，以改善成本管理。SK海力士表示，Chiplet不仅应用于HBM产品，还将用在SSD的SoC主控上。

在2025财年第二财季里，数据中心业务占据了英伟达接近88%的营收，优于其他业务，其中大概90%来自Hopper平台的贡献，包括H100、H200、H20、以及整合了Grace CPU的GH200解决方案，主要针对HPC（高性能计算）特定应用AI市场。英伟达对H100采取了不降价的策略，等旧订单出货完成后，将以H200取代。

随着市场对搭载H200的AI服务器需求提升，将填补Blackwell新平台因生产问题导致的延迟，这将保证英伟达今年下半年的数据中心业务收益不会受到影响。预计Blackwell平台明年将会放量，台积电（TSMC）上调了至2025年底的CoWoS封装产能，有望接近70-80K，相比2024年产能翻倍，其中英伟达将占超过一半以上的产能。

H200是首款采用8层堆叠HBM3E的GPU，后续的Blackwell系列芯片也会全面应用HBM3E。美光和SK海力士在2024年第一季度已完成了HBM3E的验证，并于第二季度批量出货。其中美光的HBM3E用于H200，SK海力士的HBM3E则同时用于H200和B100。三星的HBM3E已完成验证并开始出货，首批同样是8层堆叠产品，主要用于H200，同时Blackwell系列的验证工作也在稳步推进。

据The Japan Times报道，三星的HBM3E终于通过了英伟达的所有测试项目，这将有利于其与SK海力士和美光争夺英伟达计算卡所需要的HBM3E芯片订单。虽然三星和英伟达还没有最终确定供应协议，但是问题不大，预计今年底开始交付。

值得一提的是，三星还有更先进的12层垂直堆叠HBM3E（32GB）样品，正在努力通过英伟达的验证测试。有行业专业指出，SK海力士也准备了12层垂直堆叠的HBM3E产品，三星总体进度上仍然要落后一些。SK海力士一直是英伟达主要的HBM产品供应商，而美光之前已开始向英伟达供应HBM3E芯片，逐渐提升了市场占有率。

随着人工智能（AI）市场的快速增长，HBM技术通过垂直堆叠多个DRAM芯片来显著提高数据处理速度，已经变得越来越重要。随着三星的HBM3E开始通过英伟达的验证，预计至少20%到30%的产能转移到HBM产品，这将进一步收缩普通DRAM芯片的供应，很可能会推动DDR5内存价格上涨。

据TrendForce报道，已经从多家供应链厂商了解到，三星的HBM3E很快会获得认证，将在2024年第三季度开始发货。由于三星会将至少20%到30%的产能转移到HBM产品，进一步收缩供应，很可能会推动DDR5内存价格上涨。

有消息称，三星的部分供应链合作伙伴最近收到了尽快下单和准备产能的信息，预示着三星的HBM产品在下半年会顺利出货，也意味着三星内部会加快DRAM芯片的产能配置，将生产线的重心转移。随着人工智能（AI）市场的快速增长，HBM技术通过垂直堆叠多个DRAM芯片来显著提高数据处理速度，已经变得越来越重要。

三星原本预计2024年第二季度就能通过英伟达的认证，但是最后推迟了，不但落后于SK海力士和美光，而且导致HBM产量低于预期。有市场人士担心HBM3E的供应不足，从而影响英伟达H200在2024年第二季度的出货。

据TrendForce报道，三星已经成立了新的“HBM开发团队”，将专注于HBM3、HBM3E和下一代HBM4技术的相关开发工作，以提高三星在HBM市场的竞争力。三星早在2015年就在DRAM部门里组建了专门负责HBM产品开发的团队，甚至还成立了特别工作组，而这次组织架构的改组进一步做了加强。

三星希望能够加快HBM产品的开发进度，抢夺高附加值DRAM市场。早在今年2月，三星就宣布完成了HBM3E 12H DRAM的开发，并在4月量产了HBM3E 8H DRAM。三星从去年开始，就提供了HBM3E给英伟达进行验证，包括了8层和12层堆叠的产品，但是一直没有通过，预计第三季度末能够部分完成验证工作。

此前三星还发表了一篇采访文章，介绍了目前HBM产品的开发情况，并再次重申了HBM4正在开发当中，将于2025年首次亮相。之前还有传言称，三星打算在下一代HBM4引入针对高温热特性优化的非导电粘合膜（NCF）组装技术和混合键合（HCB）技术。

美光在马来西亚是有封装和测试基地的，所以选择在该地区新建DRAM工厂存在可行性。马来西亚有着相对成熟的半导体供应链，英特尔和AMD都在此建有封装设施。不过有业内人士称，美光不太可能在马来西亚生产DRAM芯片，因为需要耗费数年时间，而且资金投入也比较大，更大的可能性是建立组装产线，完成HBM3E的组装工作。

目前美光最大的HBM生产基地在台中，不但生产DRAM芯片，还会进行组装、封装和测试。美光打算进一步提升该地区工厂的产能，不过暂时还不清楚具体的计划。同时美光将在日本广岛县建造一座新的DRAM工厂，在广岛的新工厂位于现有的Fab 15附近，计划2026年初开工建设，目标2027年末完成工厂主体建筑建设和第一批工具的安装，但不包括后端封装和测试。其中将安装极紫外（EUV）光刻设备，以1-gamma（1γ）工艺生产DRAM芯片，未来还会过渡到1-delta工艺。

此外，美光还在美国爱达荷州博伊西新建一座DRAM工厂，并扩大了研发设施，为接下来的HBM4做准备。这也是美国20年来本土首个新建DRAM工厂，同时也是爱达荷州有史以来最大的私人投资项目。

目前美光提供的HBM3E产品拥有16个独立的高频数据通道，采用了1β（1-beta）工艺打造，封装规格为11mm x 11mm，堆叠8层和12层的24Gb裸片，提供了24GB或36GB容量，带宽超过1.2TB/s、引脚速度超过9.2GB/s。美光将硅通孔（TSV）增加了一倍，封装互连缩小了25%，功耗比起竞品降低了30%。美光凭借先进CMOS技术创新，结合先进的封装技术，提供了改善热阻抗的结构解决方案，有助于改善立方体的整体散热表现，加上大幅度降低的功耗，为客户提供了功耗更低、散热效率更高的HBM3E产品。

美光还打算将1β工艺应用到其他产品上，包括LPDDR5X产品组合等，以推动了异构计算环境中系统架构的重大创新。