目前业界普遍认为，SOCAMM2设计将是下一代AI服务器主要的内存解决方案。在量产的192GB SOCAMM2上，SK海力士采用了1cnm（第六代10nm级别）工艺制造的DRAM，高密度的DRAM将能效最大化。相比于传统RDIMM，192GB SOCAMM2不但带宽大幅提升，而且功耗效率提升了75%以上，为高性能AI操作提供了经过优化的解决方案。

SK海力士预计新款192GB SOCAMM2将从根本上解决在训练和推理数千亿参数大型语言模型（LLM）过程中遇到的内存瓶颈问题，从而在大幅加速整体系统处理速度方面发挥关键作用。为满足全球云服务提供商的需求，SK海力士早在初期就提供了稳定的量产系统。

SK海力士表示，通过192GB SOCAMM2为AI内存性能树立了新的标准，未来还将与全球客户展开紧密的合作，巩固自身作为最值得信赖的AI内存解决方案提供商的地位，提供拥有最佳性能的内存模组。

作为一种最初为移动设备和客户端设备开发的低功耗内存技术，与传统DDR相比，LPDDR5X可在较低电压下运行，同时支持较高的数据传输速率，从而提升了能源效率。这些特性使其在对功耗效率和带宽要求较高的环境中特别具有吸引力‍，可是早期只能直接焊接在PCB限制了可升级性，并增加了维护的复杂性。

随着SOCAMM（Small Outline Compression Attached Memory Module）的到来，情况发生了变化。之前JEDEC固态技术协会已经发布公告，宣布即将带来基于LPDDR5/5X的SOCAMM2内存模块标准，使得数据中心服务器所需要的内存模块设计得到了满足，提供了更易于维护、模块化且支持多种供应商的产品方案，可以将LPDDR的高效性与数据中心所需的灵活性相结合。

与传统的DDR5内存技术相比，LPDDR5X有着较低电压，并采用了在主动和空闲状态下降低功耗的技术进行优化。AMD表示，LPDDR5X的主要优势在于能源效率，同时大规模部署，内存效率的适度提升，也能带来明显节约电力和散热成本。另外LPDDR5X SOCAMM2的模块设计还能更小的物理形态，加上能水平放置连接，在服务器里能占用更少的空间，并改善散热设计。

据TrendForce报道，三星已经解决了SOCAMM2生产过程中的一个关键技术难题，即影响整体良率的翘曲问题，在量产前扫除了重大障碍，可能会在量产时间表上领先于SK海力士和美光。三星是凭借自家开发的下一代低温焊料（LTS）技术来解决这一问题，焊接过程中所需要的温度从260°C以上降至150°C以下，通过大幅降低峰值温度，最大限度地减少了热膨胀系数差异引起的变形错位。

所谓变形，就是指制造过程中因发热导致部件的轻微弯曲，主要原因就是材料间热膨胀系数差异造成的，其中SOCAMM2非常容易受到影响。这是由于SOCAMM2所使用的LPDDR5X芯片拼成模块并通过螺栓压缩固定的结构，增加了连接失败的风险。

除了温度控制外，三星还进行了多项改进，包括将Die布局从双堆栈改为单堆栈，同时优化环氧塑封料（EMC）的厚度和热膨胀系数，另外还使用了高精度仿真模型，以提高对翘曲位置的预测准确性。

美光表示，256GB SOCAMM2内存模组注重容量、能效和工作负载性能优化，能够实现更高的内存容量、显著降低了功耗、提供更高的性能表现，适用于各种AI和通用计算工作负载。

AI服务器内存容量扩展 - 256GB SOCAMM2比之前的192GB SOCAMM2多了三分之一容量，为8通道1DPC的服务器处理器提供最大2TB的LPDRAM容量，可更好地处理更大的上下文窗口和复杂的推理工作负载。

更低功耗和更小的占用面积 - SOCAMM2与同类RDIMM相比，功耗降低了三分之二，同时仅占用后者三分之一的空间，从而提高机架密度并降低总拥有成本（TCO）。

推理能力和核心计算性能提升 - 在统一内存架构中，256GB SOCAMM2可让首个token的时间提升2.3倍以上，在高性能计算工作负载下，每瓦性能比主流内存模块高出3倍以上。

模块化设计提升了可维护性和可扩展性 - SOCAMM2有着更好的可维护性，而且支持液冷服务器架构，并能随着AI和核心计算内存需求的持续增长，实现未来的容量扩展。

目前美光提供了业内最广泛的数据中心LPDRAM产品组合，其中包括了48GB至256GB的SOCAMM2内存模块。

据Wccftech报道，AMD和高通打算跟随英伟达步伐，在下一代人工智能（AI）产品中也使用SOCAMM类型内存，因为代理式AI使得内存成为了当前系统里的主要瓶颈。不过AMD和高通似乎没有直接选择现成方案，而且探索一种与英伟达不同的方案。

AMD和高通采用的是类似“方形”的模块，将DRAM分列在两行，通过将PMIC集成至模块内部来实现电源控制，从而构建更高效的调节机制，确保SOCAMM在极端速度下稳定运行。另外还能省去主板供电电路的设计，从而降低主板制造的复杂度。

随着SOCAMM技术的普及，该内存类型的DRAM利用率也将随之提升。考虑到AI应用需要在HBM外配备短期存储，SOCAMM能为每个CPU提供TB级内存容量。虽然相较于HBM，SOCAMM的速度较慢，但仍然是一种可行的方案，而且具备节能特性。

这次三星提供的SOCAMM2内存模块采用了其最新的LPDDR5X DRAM，继承了LPDDR技术的低功耗特性，而且提供比传统RDIMM高一倍多的带宽，同时功耗降低超过55%。三星表示，SOCAMM2能在高负载AI工作负载下保持稳定高吞吐量，为下一代AI加速服务器提供了互补的替代选项，是节能、性能驱动AI服务器的理想解决方案。

此前JEDEC固态技术协会曾发布公告，表示即将带来基于LPDDR5/5X的SOCAMM2内存模块标准，经过优化的外形设计很好地适配高密度数据中心机箱和主板布局而设计。预计新标准将支持全速的LPDDR5X，在平台信号完整性允许的情况下每引脚高达9.6 Gb/s的速率。

早些时候有报道称，三星与英伟达已达成协议，2026年将为下一代Vera Rubin平台供应一半的SOCAMM2内存模块。传闻英伟达向DRAM供应商提出的2026年SOCAMM2需求约为200亿Gb，其中三星承接了其中的100亿Gb，相当于8.3亿颗24Gb LPDDR DRAM芯片。

传闻英伟达向DRAM供应商提出的2026年SOCAMM2需求约为200亿Gb，其中三星承接了其中的100亿Gb，相当于8.3亿颗24Gb LPDDR DRAM芯片，预计每个月要以3至4万晶圆的产能才能满足，约占三星5%的整体DRAM产能。另外剩下的部分SOCAMM2需求，SK海力士将拿到60至70亿Gb的订单，剩余的则归美光。

与HBM针对GPU使用不同，SOCAMM2主要连接CPU，在大型AI推理与数据迁移中扮演关键角色。作为专门为数据中心AI应用开发的内存模块，为AI服务器和加速计算平台提供模块化、低功耗、高带宽内存。与LPCAMM2类似，SOCAMM2也是单面四颗粒，通过三固定螺丝孔固定，不过不同的是，其顶部没有凸出的梯形结构，进一步降低了整体高度，更适合服务器的安装和液体散热环境。

在今年的GTC 2025上，英伟达已经展示了SOCAMM2原型设计。

美光表示，随着人工智能（AI）实现了前所未有的创新和发展，整个数据中心生态系统正在向更节能的基础设施转型，以支持可持续增长。其中内存在AI系统中逐渐发挥越来越重要的作用，低功耗内存解决方案已成为这一转型的核心。基于与英伟达之间的合作，通过专门的设计功能和增强测试，美光率先将SOCAMM2内存模块到引入数据中心使用。

2025年3月，美光发布了业界首款LPDRAM SOCAMM，而新一代SOCAMM2在此基础上实现了功能的进一步拓展，在相同的规格尺寸中实现了50%的容量提升，增加的容量可以将实时推理工作负载中首个token生成时间（TTFT）显著缩短80%以上。新产品采用美光领先的1-gamma DRAM制程技术，能效提高20%以上，有助于实现大型数据中心集群的电源设计优化。同时SOCAMM2的模块化设计提升了可维护性，并为未来的容量扩展奠定了基础。

与同等能效的RDIMM相比，SOCAMM2内存模块的能效提高了三分之二以上，同时将其性能封装到三分之一大小的模块中，不仅优化了数据中心占地面积，还最大限度地提高了容量和带宽。此外，模块化设计和创新的堆叠技术提高了可维护性，并有助于液冷服务器的设计。

简单来说，JEDEC固态技术协会将新标准定义为紧凑、可维修、基于LPDDR5X的紧凑外形CAMM2，就是之前谈及的SOCAMM2内存模块。经过优化的外形设计很好地适配高密度数据中心机箱和主板布局而设计，而且具有可扩展性，可为支持AI训练和推理服务器提供所需的大容量内存模块。预计新标准将支持全速的LPDDR5X，在平台信号完整性允许的情况下每引脚高达9.6 Gb/s的速率。由于使用的是LPDDR5/5X，低功耗DRAM可降低系统设备能耗和散热要求，这是高效大数据处理的关键特性。

几天前，JEDEC固态技术协会发布了DDR5 SPD年度标准更新，最新版本为JESD400-5D DDR5串行存在检测（SPD）内容规范1.4版。其中一项重要支持功能，就是新增SOCAMM2编码，增强了内存模块在复杂系统环境下的识别与兼容能力，优化下一代可更换内存模块的使用，旨在满足企业部署所需的可靠性要求。

英伟达原计划将SOCAMM用在Blackwell Ultra GB300产品线，后来又推迟到下一代Rubin产品线才引入，更新至SOCAMM2。

据TomsHardware报道，英伟达已经放弃了第一代SOCAMM内存，并将开发重点转移到名为“SOCAMM2”的新版本。有业内人士透露，SOCAMM遇到了技术问题，所以相关推广被叫停，而SOCAMM2已经有样品，目前三星、SK海力士和美光都进行测试当中。

与RDIMM相比，SOCAMM在相同容量下提供超过2.5倍的带宽，同时仅为行业标准RDIMM尺寸的三分之一，可实现紧凑、高效的服务器设计。利用LPDDR5X，SOCAMM产品的功耗仅为标准DDR5 RDIMM的三分之一。与LPCAMM2类似，SOCAMM也是单面四颗粒，通过三固定螺丝孔固定，不过不同的是，SOCAMM顶部没有凸出的梯形结构，进一步降低了整体高度，更适合服务器的安装和液体散热环境。

据了解，SOCAMM2的速率从SOCAMM的8533MT/s提升到9600MT/s，而且除了LPDDR5X，可能还会支持LPDDR6。

据TrendForce报道，传闻英伟达今年打算采购多达80万个SOCAMM单元，而三星、SK海力士和美光都希望能分一杯羹。美光似乎抢占了先机，有消息指出，已经开始生产SOCAMM内存模块，成为英伟达首个供应商。与此同时，三星和SK海力士也积极加入到这场竞赛中，新的DRAM战争一触即发，有望成为HBM之后又一市场增长点。

与RDIMM相比，SOCAMM在相同容量下提供超过2.5倍的带宽，同时仅为行业标准RDIMM尺寸的三分之一，可实现紧凑、高效的服务器设计。利用LPDDR5X，SOCAMM产品的功耗仅为标准DDR5 RDIMM的三分之一。与LPCAMM2类似，SOCAMM也是单面四颗粒，通过三固定螺丝孔固定，不过不同的是，SOCAMM顶部没有凸出的梯形结构，进一步降低了整体高度，更适合服务器的安装和液体散热环境。

有报告指出，SOCAMM的价格仅为HBM芯片的25%至33%，在服务器领域非常具有吸引力，这也是三大原厂竞相抢入这个新兴市场的原因之一，以占据领先地位。

据TomsHardware报道，英伟达已经推迟了采用SOCAMM内存模块的计划，现在该为与下一代代号“Rubin”的GPU一起推出。传闻推迟的部分原因是英伟达改变了GB300的主板设计，从最初的Cordelia改成了Bianca设计。

Bianca设计是单主板上拥有2颗B300 GPU和1颗Grace CPU，可以支持SOCAMM内存模块，而Cordelia设计则是4颗GPU和2颗Grace CPU，利用SXM插槽接口相连，而且只能使用LPDDR内存模块。按照之前的说法，Cordelia设计存在信号丢失的问题。此外，SOCAMM也存在可靠性和发热问题。

与RDIMM相比，SOCAMM在相同容量下提供超过2.5倍的带宽，允许更快地访问更大的训练数据集和更复杂的模型，以及提高推理工作负载的吞吐量；

SOCAMM的尺寸为14 x 90 mm，仅为行业标准RDIMM尺寸的三分之一，可实现紧凑、高效的服务器设计；

利用LPDDR5X，SOCAMM产品的功耗仅为标准DDR5 RDIMM的三分之一，直接影响AI架构中的功耗性能曲线；

SOCAMM解决方案使用了4颗16-die堆叠的16Gb LPDDR5X颗粒，从而实现了128GB容量，结合128-bit位宽和8533 MT/s速率，对于更快的AI模型训练和增加推理工作负载的并发用户来说至关重要；

SOCAMM内存模块还有这优秀的可扩展性和可维护性，增强的纠错功能具有以数据中心为中心的测试流程，为数据中心提供了优化的内存解决方案。

与LPCAMM2类似，SOCAMM也是单面四颗粒，通过三固定螺丝孔固定。不过与LPCAMM2不同的是，SOCAMM顶部没有凸出的梯形结构，进一步降低了整体高度，更适合服务器的安装和液体散热环境。

英伟达希望与业界巨头展开合作，将新一代存储技术SOCAMM尽早商业化，大规模生产可能在2025年末开始。在这次GTC 2025上，SK海力士和美光都公布了自家的SOCAMM内存模块，将用于英伟达最新发布的Blackwell Ultra GB300产品线。

其中美光表示，SOCAMM解决方案已经实现量产，这将是世界上最快、最小、最低功耗和最高容量的内存模块，为不断增长的人工智能（AI）工作负载提供了大容量内存，满足了AI服务器和数据密集型应用的需求。

与RDIMM相比，SOCAMM在相同容量下提供超过2.5倍的带宽，允许更快地访问更大的训练数据集和更复杂的模型，以及提高推理工作负载的吞吐量；

SOCAMM的尺寸为14 x 90 mm，仅为行业标准RDIMM尺寸的三分之一，可实现紧凑、高效的服务器设计；

利用LPDDR5X，SOCAMM产品的功耗仅为标准DDR5 RDIMM的三分之一，直接影响AI架构中的功耗性能曲线；

SOCAMM解决方案使用了4颗16-die堆叠的16Gb LPDDR5X颗粒，从而实现了128GB容量，结合128-bit位宽和8533 MT/s速率，对于更快的AI模型训练和增加推理工作负载的并发用户来说至关重要；

SOCAMM内存模块还有这优秀的可扩展性和可维护性，增强的纠错功能具有以数据中心为中心的测试流程，为数据中心提供了优化的内存解决方案。

与LPCAMM2类似，SOCAMM也是单面四颗粒，通过三固定螺丝孔固定。不过与LPCAMM2不同的是，SOCAMM顶部没有凸出的梯形结构，进一步降低了整体高度，更适合服务器的安装和液体散热环境。

据TrendForce报道，最近有报告称，英伟达正在与存储器制造商交换SOCAMM原型进行测试，包括了三星和SK海力士。英伟达希望与业界巨头展开合作，将新一代存储技术SOCAMM尽早商业化，大规模生产可能在2025年末开始。

据了解，SOCAMM在性能和能效方面优于小型个人电脑和笔记本电脑使用的传统DRAM。与基于DDR4和DDR5的SODIMM模块不同，SOCAMM使用低功耗LPDDR5X来提高性能，同时好降低了功耗。SOCAMM引入了更多的I/O引脚，将显著提高数据传输速度，这对于AI计算至关重要。SOCAMM另外一大优先是其采用了可拆卸模块设计，让用户可以轻松更换内存，具备相当大的灵活性。

有分析称，英伟达推动内存标准标志着JEDEC传统框架的重大转变，预计SOCAMM会树立新标准，再次颠覆行业。