巨头疯投的CXL存储技术有什么“魔力”?

文摘   2024-11-19 17:45   湖北  


近日,日本NAND Flash大厂铠侠将在今后3年内投资360亿日元,用以研发AI用CXL(Compute Express Link)省电存储器,日本政府将最高补助50%费用,目标在2030-2034年间实现商业化。 


铠侠表示,在后 5G 信息和通信系统时代,AI 普及等因素产生的数据量预计将变得极其庞大,从而导致数据中心的数据处理和功耗增加。因此数据中心使用的存储器必须能够在高性能处理器之间高速传输数据,提高容量并降低功耗。



开发新型 CXL 接口存储的目标是打造出较 DRAM 内存功耗更低且位密度更高的同时较 NAND 闪存读取速度更快的新型存储器。铠侠提到,这不仅可提高存储器利用效率,还有助于节能。


三星如今也在加大投资下一代存储技术Compute Express Link(CXL),预计在2024年下半年开始出货。CXL作为一种高速计算的开放标准,通过堆叠DRAM制成模块,能够显著提升服务器的存储容量,理论上可达到不使用CXL时的十倍。


三星存储部门执行董事Choi Jang-seok曾介绍CXL技术,这有点像把宽阔的道路粘在一起,让大量数据来回传输。三星在CXL领域的研发上处于行业领先地位,是2021年首批开发CXL模块的公司之一。


今年6月,三星宣布已建立由美国主要软件公司Red Hat认证的CXL基础设施,为实际应用研究进入最后阶段铺平了道路。作为CXL联盟董事会中唯一的存储制造商,三星在这一新兴市场中拥有独特的优势,该联盟由15家全球主要公司组成。市场研究公司Yole Group预测,全球CXL市场规模将从2023年的1400万美元增长至2028年的160亿美元,呈现出爆炸性的增长。


SK海力士也非常看好CXL内存前景,此前宣布,其异构内存软件开发工具包(HMSDK)的关键功能现已在全球最大的开源操作系统Linux上可用。HMSDK是SK海力士为优化与高带宽存储器(HBM)一起备受关注的下一代人工智能存储器技术“Compute Express Link (CXL)”的运行而开发的专有软件。


SK海力士的HMSDK的性能得到了全球的认可,目前正在与Linux进行整合。这一成就对公司来说是一个重要的里程碑,因为它突出了公司在软件方面的竞争力,增加了对其高性能存储硬件(如HBM)的认可。


今后,世界各地的Linux开发人员可以将SK海力士的技术作为CXL内存的行业标准,在下一代内存的全球合作中处于有利地位。SK海力士HMSDK在不修改现有应用程序的情况下,将内存封装的带宽提高了30%以上。它通过基于现有内存和扩展的CXL内存之间的带宽有选择地分配内存来实现这一点。此外,该软件通过基于访问频率的优化,将频繁访问的数据重新定位到更快的内存中,从而使性能比传统系统提高了12%以上。


半导体行业专家预计,CXL将在2024年下半年全面商业化,与此同时,首款采用“CXL 2.0”规范的服务器CPU也将发布。为此,SK海力士正在与客户一起验证96 GB和128 GB容量的CXL 2.0内存。该公司计划在今年年底开始大规模生产。


据了解,SK海力士近期与ASICLAND签订311亿韩元(约2256万美元)规模的CXL(Compute Express Link)高速互联存储器控制器设计合约,期限至2026年6月30日。ASICLAND致力于协助客户使用适合台积电代工制程的半导体IP进行设计,并支持最终产品量产。考虑研发所需时间,预计CXL 3.0或3.1芯片将通过台积电5纳米制程量产。


美光在CXL技术上也有布局,并推出了相关产品。如美光推出了基于CXL 2.0的内存扩展模组CZ120,该模组内置了128GB或256GB的DRAM内存,可通过PCIe 5.0x8的接口连接到CPU,为服务器提供更容易获取的、低成本的DRAM内存。美光还在不断研发和优化CXL相关技术,以提升产品的性能和稳定性。


美光与英特尔、AMD等服务器平台进行了测试,确保CZ120等CXL产品能够在这些平台上稳定运行。美光还与Microchip等厂商合作,共同推动CXL技术的发展和应用。如美光的CZ120内存扩展模组使用了Microchip的SMC 2000系列智能内存控制器。


如美光在数据中心、高性能计算和消费电子等领域都推出了基于CXL技术的产品。美光还计划在未来继续加大在CXL技术方面的投入和研发力度,以推动该技术的进一步发展和应用。


2023年8月,美光推出CZ120内存扩展模块,完全支持CXL 2.0 Type 3标准,支持CXL 3.0的内存解决方案正在开发中,主要面向需要大规模内存扩展和高效数据处理的场景。今年美光推出的CXL2.0内存扩展模块Micron CZ122更是为AI和数据中心的发展注入了新的动力。


这款内存模块支持更高的带宽和可靠性,能够处理大型AI模型所需的大量数据。CZ122的认证不仅展示了美光在高性能内存市场的领导地位,更为未来数据中心的架构转型奠定基础。随着对AI处理能力的需求日益紧迫,CXL内存的推出无疑是一个里程碑式的进展,预计将成为行业内的主流。


随着AI计算需求的不断攀升,CPU和GPU的算力增长使得数据处理能力成为限制AI发展的关键瓶颈。如何在处理器与存储设备之间高效传输数据,已成为提高AI计算性能的重点。CXL内存方案这一创新技术为解决高性能计算中的内存墙问题提供了重要突破。


CXL优势


据悉,Compute Express Link(CXL)是一种开放标准的行业支持的缓存一致性互连,专为处理器、内存扩展和加速器设计。


据了解,CXL作为一种开放标准的行业支持的缓存一致性互连技术,具有高速传输、内存共享与虚拟化、设备协作等显著特点。它在数据中心、人工智能与处理器互联等领域有着广泛的应用前景和显著的优势。


据悉,CXL技术由英特尔、AMD等公司联手打造,并得到谷歌、微软等巨头的支持。它旨在解决现代计算和存储系统中CPU与设备间内存鸿沟的问题,提升系统效率。CXL技术的背景可以追溯到PCIe技术,但PCIe难以满足现代计算机处理器和加速器之间的高带宽、低延迟通信需求,因此CXL技术应运而生。


CXL作为高速通信的开放标准接口,通过加速器与CPU的协同,实现快速可靠的数据传输。它可确保CPU与连接设备内存的一致性,促进资源共享,降低软件堆栈的复杂性,并降低整体系统成本。CXL强化设备间的协作,满足现代数据中心大规模处理需求,并为AI、机器学习、区块链等新兴应用提供卓越支持。


CXL技术广泛应用于数据中心、人工智能与处理器互联。在数据中心,它互联计算与存储资源,提升系统效能;在人工智能领域,它促进GPU、FPGA与主处理器协同,加速AI模型训练与推理;在处理器互联方面,CXL技术打破厂商壁垒,实现处理器间无缝互联,提升系统性能与灵活性。随着技术的不断进步和应用场景的不断拓展,CXL技术将继续发展完善。未来,CXL有望在更多领域发挥重要作用,为计算架构的创新和性能提升注入新的动力。


【本文转自半导体芯情,转载仅供学习交流。】


一步步新技术
专注SMT和电子制造领域,依托《一步步新技术》杂志和一步步新技术研讨会,传递新技术,新工艺,新产品和新材料,以知识共享、开放协作助力推动SMT和电子制造行业高质量发展。
 最新文章