英伟达的内存未来：一个GPU上堆叠20个DRAM芯片

科技 2024-10-31 18:10 北京

本文由半导体产业纵横（ID：ICVIEWS）综合

堆叠更多的DRAM芯片，为GPU芯片带来更多助力。

据Trendforce 报道，内存制造商三星、SK 海力士和美光希望堆叠更多 DRAM 芯片。随着第五代堆叠 DRAM 高带宽内存 (HBM5) 的推出，至少有 20 个内存层。

目前的 HBM3e 设备使用 8 个 24 千兆位芯片，总容量为 24 千兆字节。12 倍堆叠的 HBM3e 模块（称为 12-Hi）已发布，容量为 36 千兆字节。每个芯片具有相同容量的 20-Hi 变体的容量为 60 千兆字节，但后者可能会同时增加，以实现更高的存储量。

高带宽内存的未来。Nvidia 显然已经在规划 HBM5。

不过，该产品还需要几年时间才能上市。Trendforce 估计 Nvidia 希望在下一代产品中使用 HBM5。届时它将不再位于 GPU 旁边并通过硅中介层连接，而是直接安装在 GPU 上。

Blackwell（B100 和 B200）仍使用 HBM3e。Nvidia已宣布将在 2026 年推出具有八个 HBM4 堆栈的 Rubin；具有 12 个堆栈的改进版本 Rubin Ultra 将于 2027 年问世。具有 HBM4e 的 Rubin 继任者将于 2028 年问世，而具有 HBM5 的继任者最早将于 2029 年问世。

混合键合取代焊球

在此之前，制造商必须解决生产问题。到目前为止，他们一直在 DRAM 层之间使用焊球，即所谓的微凸块。三星和美光依靠热压缩非导电膜 (TC-NCF) 来实现稳定：他们将一层薄膜贴在单个芯片上，薄膜在高温和高压下熔化，从而将各层粘合在一起。

SK Hynix 依靠所谓的大规模回流成型底部填充 (MR-MUF) 来改善散热。制造商对此的描述如下：“大规模回流是一种通过熔化堆叠芯片之间的凸块将芯片粘合在一起的技术。模塑底部填充用保护材料填充堆叠芯片之间的间隙，以提高耐用性和散热性。MR-MUF 结合使用回流和成型工艺，将半导体芯片连接到电路上，并用液态环氧模塑化合物 (EMC) 填充芯片和凸块间隙之间的空间。”

但随着容量和时钟频率的不断提高，组件产生的热量也随之增加。此外，制造商必须节省空间才能将 20 个内存层压入一个组件中。

据称，该解决方案是混合键合，AMD 此前已在其带有堆叠缓存的 Ryzen X3D 处理器中使用过该技术。然后，将所有 DRAM 层磨平，以便它们彼此粘合在一起而没有焊点（凸块）。为了实现这一点，制造商必须转换其封装系统。三星大概也希望将这项技术用于 SSD 的 NAND 闪存。

如果制造商有意提前积累该技术经验，16 层堆叠的 HBM4 和 HBM4e 堆叠（16-Hi）也可能采用混合键合。然而，这显然在技术上还不是必要的。

高堆叠内存的 GPU 在制造成本上必然会有显著的提升。首先，研发新的散热技术、信号处理技术和封装工艺都需要投入大量的资金。与此同时，该技术还存在诸多挑战。

在一个 GPU 上堆叠 20 个 DRAM 芯片，散热将成为首要面临的巨大挑战。大量芯片在高速运行时会产生可观的热量，如果不能有效地进行散热处理，将导致芯片性能下降甚至损坏。英伟达将不得不投入大量研发资源来开发新的散热技术。例如，可能会探索更高效的散热材料，从传统的铜基散热片转向石墨烯等具有超高热导率的新型材料。同时，液冷技术也可能会得到进一步发展和优化，设计出更加精细且适配这种高芯片密度的液冷系统，确保每个 DRAM 芯片都能在适宜的温度下工作。

在如此高密度的芯片堆叠下，信号完整性也是一个亟待解决的问题。众多芯片之间的信号传输路径变得更加复杂，电磁干扰、信号延迟等问题容易出现。英伟达需要在芯片设计和电路布局上进行创新。比如，采用更先进的布线技术，增加信号屏蔽层来减少电磁干扰。同时，在芯片之间可能会引入新的信号补偿和校准机制，实时监测和调整信号的传输状态，确保从一个 DRAM 芯片到 GPU 核心的数据传输准确无误，维持整个系统的高性能运行。

此外，制造工艺将面临更高的要求。要实现 20 个 DRAM 芯片的稳定堆叠，对芯片的封装工艺提出了近乎苛刻的条件。目前的封装技术可能无法满足这种高复杂度的要求，英伟达需要与芯片制造厂商紧密合作，共同研发新的封装工艺。在这个过程中，如何保证高良品率是关键。因为随着制造复杂度的提升，不良品出现的概率也会增加。这可能需要在生产流程中引入更精密的检测设备和方法，从芯片原材料的筛选到每一道生产工序都进行严格的质量把控，以确保最终产品能够达到预期的性能和可靠性标准。

*声明：本文系原作者创作。文章内容系其个人观点，我方转载仅为分享与讨论，不代表我方赞成或认同，如有异议，请联系后台。

半导体产业纵横

多元化的半导体产业生态服务平台，立足产业视角，提供及时、专业、深度的前沿洞见、技术速递、趋势解析，链接产业资源，构建IC生态圈，赋能中国半导体产业，我们一直在路上。

最新文章

2025年AI服务器市场将持续增长，产值达2980亿美元

硅通孔的下一步发展

炸裂！CES成芯片巨头 “斗秀场”，新品巅峰对决

美国国防部将134家中企列入黑名单，腾讯、云从、商汤等回应

AI初创企业融资达970亿美元，创新高！

HDMI 2.2官宣

华勤技术，又一重磅收购！

一文读懂上海发布《关于人工智能“模塑申城”的实施方案》

AI PC成主流，但Arm PC难挑大梁

FOPLP，今年热点

博通的繁荣，英特尔的衰落

RISC-V，任重道远

万字深度：芯片自研之路

花几个亿建智算中心，八成的GPU租不出去

Micro-LED乘风破浪，新型显示技术加速产业化

美国又“拉黑”11家中国实体

大基金三期，出手1640亿元

美国芯片业走向悬崖

Chiplet，至关重要

日本半导体设备，赚翻了！

Solidigm退出消费级SSD市场，转向数据中心

国家发改委：购买手机、平板、智能手表手环将获得补贴

25亿！北京芯片大动作

加拿大，想发展MEMS

半导体ODM巨头们，有了新方向

中方决定将28家美国实体列入出口管制名单，半导体公司英特磊在列

国家大基金三期携手华芯投资，成立930亿股权投资基金

中国汽车芯片国产化率达15%，业界：不可低估竞争力

飙升43.9%，韩国2024年芯片出口创新高

回顾2024年，中国半导体行业如何洗牌？

华为孟晚舟：三折叠和红枫的突破，只是中国电子工业快速崛起的一个缩影

聚焦半导体！闻泰科技拟出让相关产品集成业务

2024 年十大半导体新闻

国内EDA公司，变更为“无实控人”

明年存储，令人忧心

效率提升10倍！美国推动下一代EUV光刻技术发展

飞腾CPU累计销量突破1000万片

英伟达H20，在中国被疯抢

荣耀完成股改与更名，将适时启动IPO

机械硬盘的未来在哪里？

Chiplet，半导体的下一个前沿？

OpenAI大地震一分为二，全力冲刺AGI！一半向钱看，一半装理想

芯片四十年：一粒沙，一个希望的世界

Micro LED规模商用化：准备好了么？

AI芯片新战役：ASIC登场，GPU失色

倪光南：中国正从开源大国迈向开源强国

欧盟批准金刚石晶圆工厂补贴，目标明年投产

“中国英伟达”闯过2024

寒武纪，走到2500亿

下一代存储器趋势：存内处理（PIM），商业化迎来新进展

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉