Ian Finder作为英伟达数据中心CPU产品负责人提到，先进的AI基础设施要在各个环节做大幅优化，才能扛得住高要求的AI推理工作。为了满足这些需求，美光推出了256GB SOCAMM2内存条，它用了世界首个单芯片32Gb LPDDR5x的DRAM Die。美光在业界率先把单模组的容量做到了256GB，这款产品给8通道1DPC的服务器处理器提供了便利，把单CPU的内存扩展到了2TB。相比以前只有192GB的模组系统，新内存能处理更大的上下文窗口和复杂推理。 IT之家消息称，美光当地时间3日宣布出样了256GB SOCAMM2模组。AI导读提到，美光率先拿出这个产品。这个模组采用32Gb LPDDR5x芯片，功耗比传统服务器内存低。SOCAMM2就是这种技术的名称。英伟达的人指出美光这次的成就推动了新一代AI CPU发展。 为了提供海量存储和带宽的同时还能控制功耗，美光用SOCAMM2技术做到了这一点。通过这种内存条给CPU提供支持。