美光发布全球首款256 GB高容量LPDRAM SOCAMM2

美光科技公司今日通过向客户送测业界最高容量的LPDRAM模块——256 GB SOCAMM2，进一步巩固了其在低功耗服务器内存领域的领导地位，较此前的192GB门槛实现了巨大飞跃。凭借业界首款单片32 Gb LPDDR5X设计，这一里程碑标志着AI数据中心向前迈出了变革性的一步，以低功耗内存容量解锁全新系统架构。

AI训练、推理、智能体AI与通用计算的融合正推动更为严苛的内存需求，并重塑数据中心系统架构。现代AI工作负载驱动着庞大的模型参数、广阔的上下文窗口和持久化的键值（KV）缓存，而核心计算在数据强度、并发性和内存占用方面持续扩展。

256GB型号可为每颗8通道CPU提供2TB LPDRAM，使AI服务器能够轻松处理长上下文窗口。美光还表示，采用全新SOCAMM2方案后，长上下文推理的首Token时间（TTFT）提升了2.3倍，显著助力AI智能体工作负载，其中独立CPU应用是核心焦点。

SOCAMM2是美光与英伟达合作开发的解决方案，Vera Rubin将成为首批采用这一全新内存标准的AI基础设施产品之一。在AI领域，内存已成为延迟和上下文至关重要的工作负载中的重要资产，但与此同时，SOCAMM2也是将占据相当部分DRAM供应的产品之一，可能会挤占GDDR7等通用产品的产能分配。

美光表示，256GB SOCAMM2样品已向客户出货，该解决方案将在今年的GTC 2026大会上展示。