随着生成式AI和大模型参数量的激增，对高带宽、高容量存储的需求不断上升，推动了HBM市场的快速增长，同时对HBM性能提出了更高的要求。11月4日，韩国SK集团会长崔泰源表示，英伟达首席执行官黄仁勋要求SK海力士提前六个月供应被称为HBM4的下一代高带宽内存芯片。
HBM4作为最新一代的高带宽内存技术，相较于前代HBM3具有显著的技术优势。HBM4在内存密度和数据吞吐量方面有显著提升，其内存密度更高，支持更大的存储容量，例如单个堆栈的容量可以达到32GB甚至更高。
同时，在带宽方面，HBM4支持高达6.4 GT/s的数据传输速率，并且接口宽度从1024位升级到2048位，从而显著提高了并发数据传输的能力，有助于减少数据传输延迟，特别是在多处理器或多GPU系统中。
此外，HBM4还具备更低的功耗特性，对于需要长时间运行的高性能计算和AI应用来说是一个重要的优势。
目前，英伟达与SK海力士签订了优先供应协议，重点集中在高性能内存技术领域，尤其是HBM(高带宽内存)技术的发展与应用。
此前，英伟达、SK海力士以及台积电已共同宣布深化三方合作，推动下一代高性能内存技术HBM4的发展。预计HBM4将于2026年开始量产，将为下一代计算和数据中心应用带来新的可能性。英伟达也计划在2026年推出名为"Rubin"的下一代数据中心GPU架构，该架构将集成HBM4芯片。
随着AI相关需求的增加，HBM4预计将在AI服务器、数据中心、汽车驾驶等高性能计算领域得到广泛应用。比如，在AI训练与推理模型中，高阶深度学习AI GPU规格的提升将拉动对HBM产品的需求和技术更迭。由此可见，在强劲的AI技术需求下，英伟达希望通过HBM4来确保其产品能够支持这些快速增长的高带宽需求。
