三星在2021年推出了集成AI处理器的HBM2内存，名为“HBM-PIM (processing-in-memory) ”，最高可提供1.2 TFLOPS嵌入式计算能力，使内存芯片本身可以执行CPU、GPU、ASIC或FPGA的操作。三星在每个内存模块内注入了一个AI处理器，从而将处理操作转移到HBM本身，减轻了内存与一般处理器之间转移数据的负担。三星最初打算将PIM技术扩展到DDR4、DDR5、LPDDR5X、GDDR6和HBM3内存上，但后来迟迟没有行动。三星在2022年曾对AMD Instinct MI100计算卡进行改造，加入了HBM-PIM芯片，然后使用96张经过改造的Instinct MI100计算卡构建了一个大型计算系统。

SK海力士在2022年宣布开发出具备计算功能的下一代内存半导体技术，首款基于该技术的产品为GDDR6-AiM（Accelerator-in-Memory/内存加速器），将计算功能添加到速率为16 Gbps的GDDR6上。去年SK海力士就展示了该技术打造的AiMX加速卡原型产品，专门用于生成式人工智能（AI），比如ChatGPT。

有业内分析师认为，三星和SK海力士根据各自标准开发产品使得行业难以采用统一的标准，使得推广工作变得困难，最终促使了双方在PIM产品大规模商业应用之前就其标准化工作进行合作。据了解，双方正在进行的讨论，主要集中在为每个标准化项目确定适当的规范上。

据相关媒体报道，为了追赶竞争对手SK海力士，三星再次将注意力转向PIM技术，希望能在下一代人工智能（AI）应用中取代传统HBM。 三星电子首席执行官兼设备体验（DX）部门负责人韩宗熙最近在公开活动上表示，人工智能正在以前所未有的速度改变生活，如何更负责任地使用AI变得越来越重要，三星正致力于培育更高效、更可持续的AI生态系统。

HBM是数据中心AI加速器的重要组成部分，但是三星在这一领域长时间落后于SK海力士。为了重新确立自身在存储器市场的领导地位，三星打算重新押注PIM技术，理论上能带来翻倍的性能提升，同时平均能耗降低了近50%。

按照三星最初的构想，会将PIM技术扩展到DDR4、DDR5、LPDDR5X、GDDR6和HBM3内存上，但后来迟迟没有行动。三星在2022年曾对AMD Instinct MI100计算卡进行改造，加入了HBM-PIM芯片，然后使用96张经过改造的Instinct MI100计算卡构建了一个大型计算系统。相比于未改造前的系统，新系统在使用训练语言模型算法T5时性能提高了2.5倍，功耗降低至原来的2.67分之一。

三星还强调了与AMD的合作关系，传闻正在向其供应HBM3E芯片。

事实上，ChatGPT的出现似乎给存储器制造商带来了转机。据Business Korea报道，今年年初以来，三星和SK海力士的HBM订单量激增，价格也水涨船高，给低迷的DRAM市场注入了一丝活力。

相比于普通的DRAM，HBM通过堆叠方式实现了更高的带宽，与CPU及GPU协同工作中，可以提高机器学习和计算性能。除了英伟达和AMD的计算卡，近期英特尔也发布了首款采用HBM内存的x86处理器Xeon Max，上面也使用了HBM2e，越来越多涉及AI的高性能芯片选择HBM。

虽然HBM有着更强的性能，但比起普通DRAM出货量要少很多，这是由于其平均售价是普通DRAM的三倍，需要复杂的生产工艺和先进的生产技术。随着ChatGPT的出现，AI再次成为了热点，对高性能计算芯片的需求增加，也让HBM受惠。英伟达最新的H100计算卡采用了最新的HBM3，据了解，与最高性能DRAM相比，目前HBM3的价格最高上涨了五倍。

此外，存储器制造商还在原有HBM基础上集成AI引擎。此前三星就推出了HBM-PIM（Aquabolt-XL）芯片，最高可提供1.2 TFLOPS嵌入式计算能力，使内存芯片本身可以执行CPU、GPU、ASIC或FPGA的操作。通过在每个内存模块内注入了一个AI处理器，从而将处理操作转移到HBM本身，从而减轻了内存与一般CPU之间转移数据的负担，未来还会扩展到DDR4、DDR5、LPDDR5X、GDDR6和HBM3内存上。SK海力士也在去年宣布开发出具备计算功能的GDDR6-AiM（Accelerator-in-Memory/内存加速器），将计算功能添加到速率为16 Gbps的GDDR6上。

有业内人士表示，存储器制造商仅依靠制造工艺的时代已经过去，加入数据处理能力的AI半导体技术的发展将变得非常重要，可能决定芯片制造商的未来。从中长期来看，HBM-PIM这类型专用DRAM芯片的发展将使半导体行业发生巨大变化。

三星人工智能研究中心负责人表示，未来在半导体生产过程中AI技术的使用率正在增加，PIM技术的应用看起来是加速AI工作流程的有效解决方案，能让三星成为一家比任何其他公司都更好使用人工智能技术的半导体公司。目前检查良品率的方法存在局限性，需进入一个可以使用人工智能传感器和检查数据预测产量的阶段。

三星并不是唯一一家开发PIM技术的厂商，今年初SK海力士宣布已开发出具备计算功能的下一代内存半导体技术，首款基于该技术的产品为GDDR6-AiM（Accelerator-in-Memory/内存加速器），将计算功能添加到速率为16 Gbps的GDDR6上。其初步测试表明，应用GDDR6-AiM以后AI处理速度提高了16倍，功耗也降低了80%。不过SK海力士没有透露具体的操作步骤和比对方式，所以不能与三星这次的成绩直接比较。