美光科技近期宣布，其192GB SOCAMM2内存模组已正式向客户送样，旨在将低功耗内存在AI数据中心的应用推向新高度。这款新品在性能与能效上实现显著突破：传输速度高达9600MT/s，在相同紧凑尺寸下容量较前代提升50%，且在DRAM裸片级别能效提升超过20%，为大规模AI计算提供了强有力的硬件支持。
一、技术升级：性能跃升，延迟骤降
SOCAMM2基于美光1γ（1-gamma）制程技术打造，实现了容量与能效的同步优化。其在AI工作负载中的表现尤为亮眼，可将实时推理任务中的首Token生成时间（TTFT）缩短80%以上，这意味着AI应用（如聊天机器人或图像生成）的初始响应速度得到大幅提升，用户体验更加流畅。
模块化设计增强了其可维护性，并为未来的容量升级预留了空间。在系统层面，例如在Vera Rubin NVL144机架系统中，SOCAMM2可支持构建超过40TB的CPU直连低功耗主内存，为庞大AI模型的高效运行奠定了基础。
二、AI数据中心：低功耗与高带宽的完美融合
SOCAMM2的成功离不开美光与英伟达长达五年的紧密合作，双方共同将原本主要用于移动设备的LPDDR5X内存技术引入了数据中心领域。此举使得SOCAMM2同时具备了超低功耗和高带宽两大优势。
与传统的RDIMM内存相比，SOCAMM2在提供更高带宽的同时，能耗降低了三分之二以上，物理尺寸也仅为后者的三分之一。这种高密度、低功耗的特性，不仅显著优化了数据中心的空间利用率和电力成本，也使其更易于融入液冷散热系统，顺应了绿色数据中心的发展趋势。
三、市场竞争：新内存战局已然开启
SOCAMM2的推出，标志着在HBM（高带宽内存）之后，一个新的服务器内存战场正在形成。据透露，英伟达在2025年计划采购高达80万个SOCAMM单元。
目前，美光在竞争中已开始为英伟达生产SOCAMM模块。而三星和SK海力士也正积极布局，三星已开始开发SOCAMM2，SK海力士则在其AI内存解决方案中展示了SOCAMM技术。此外，中国存储企业江波龙也已推出自有SOCAMM2产品，显示出该技术领域的广泛关注和竞争态势。
四、未来展望：重塑AI数据中心内存架构
美光高级副总裁兼云存储业务部门总经理Raj Narasimhan表示，SOCAMM2旨在满足新一代大型AI系统的算力需求，为AI训练与推理系统树立新的能效标杆。
随着AI服务器需求的持续爆发，以及对数据中心能耗要求的日益苛刻，兼具高性能与低功耗特性的SOCAMM2，有望在未来几年成为高端AI平台的核心内存组件之一，驱动AI基础设施向着更高效、更绿色的方向演进。
免责声明：本文为转载文章，转载此文目的在于传递更多信息，版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题，请联系小编进行删除。