三星电子曾经是内存半导体的主导者,使其在利用人工智能(AI)的繁荣方面处于有利地位。遥想去年年底,三星的Galaxy S24系列手机一经推出,就被称为AI手机的“开山之作”,不仅实现了通话实时翻译功能,还能够在与外国人面对面对话时支持同传翻译吸引了无数眼球!
Galaxy S24 Ultra
图片来源:高通中国
但推出旗舰款智能手机,并不代表三星没有跌落巅峰:这家韩国电子巨头现在已经落后于其长期竞争对手SK海力士(SK Hynix)的下一代芯片,而这些芯片,一直是AI芯片领导者英伟达的关键组件。
根据10月31日发布的2024年第三季度的财务报告,该季度公司合并营收达到79.1万亿韩元(约合4072.86亿元人民币),较上一季度增长了7%。这一增长主要得益于新款智能手机的推出以及高端内存产品销售的增加。
尽管营收有所增长,但营业利润却下降至9.18万亿韩元(约合472.68亿元人民币),这一下降主要是由于一次性成本开支的增加,包括为器件解决方案(DS)部门提供的激励措施。
芯片业务方面,三星芯片部门第三季度实现营业利润3.9万亿韩元,上年同期为亏损3.8万亿韩元,尽管同比扭亏为盈,但远低于上一季度的6.45万亿韩元,环比大降近40%。
HBM,三星落后了么?
内存是用于存储数据的关键芯片类型,从智能手机到笔记本电脑,许多设备都可以找到它。多年来,三星一直是这项技术无可否认的领导者,领先于韩国竞争对手SK海力士和美国竞争对手美光(Micron)。
但“花无百日红”,随着OpenAI的ChatGPT等AI应用程序越来越受欢迎,训练它们所依赖的巨大模型所需的底层基础设施成为市场更大的焦点。而随着英伟达已成为该领域的顶级参与者,其图形处理单元(GPU)已成为科技巨头用于AI训练的黄金标准。
该半导体架构的一个关键部分是高带宽存储器(HBM)。下一代内存涉及堆叠多个动态随机存取存储器(DRAM)芯片,但在AI繁荣之前,它的市场很小。这就是三星陷入困境并未能投资,最终错过机遇之处!
在此不妨科普一下所谓高带宽存储器(HBM),是一种面向需要极高吞吐量的数据密集型应用程序的DRAM,HBM的作用类似于数据的“中转站”,就是将使用的每一帧,每一幅图像等图像数据保存到帧缓存区中,等待GPU调用。它由多层DRAM芯片垂直堆叠而成,通过硅通孔(TSV)进行互连,从而实现更高的带宽和更低的功耗。
HBM技术自2013年推出以来,已经发展了三代:HBM、HBM2、HBM3,目前处于HBM3E和HBM4之间。每代HBM技术都带来了显著的性能提升,并被广泛应用于各种高端GPU和加速器中。
三星对HBM的态度,真正应了那句老话“昨天你对我爱答不理,今天我让你高攀不起”!
据外媒,晨星股票研究总监Kazunori Ito表示,HBM一直是一个非常小众的产品......很长一段时间以来,三星都没有将资源集中在其发展上;由于堆叠DRAM所涉及的技术难度和潜在市场的规模较小,人们认为高昂的开发成本是不合理的。
SK海力士看到了这个机会。该公司积极推出HBM芯片,这些芯片被批准用于英伟达架构,在此过程中,这家韩国公司与这家美国巨头建立了密切的关系。英伟达的CEO甚至要求该公司加快其下一代芯片的供应,强调了HBM对其产品的重要性。
SK海力士在9月季度公布了创纪录的季度营业利润。同时表示,已开始大规模生产其新版高带宽存储芯片,并计划在年底前交付。
该产品将是世界上第一个12层版本的HBM3E,HBM3E是指能够处理高端生成式人工智能工作的最新一代高级存储芯片。
SK海力士表示,该芯片的容量为36GB,是现有HBM芯片中最大的。这比该公司之前的八层芯片产能增加了50%,该公司已于今年3月开始大规模生产,同时保持相同的厚度。
“凭借强大的R&D(研发)投资和已建立的行业合作伙伴关系,SK海力士在HBM创新和市场渗透方面都保持着优势”,Counterpoint Research副总监Brady Wang表示。
面对友商的咄咄逼人,三星半导体部门内部出现了“我们是SK海力士的分包商”等愤世嫉俗的言论。三星设备解决方案部门的一位员工曾经提到,“SK海力士已经成为HBM市场的全球主要供应商,而三星只是接手SK海力士无法处理的多余订单”。
市场研究公司TrendForce此前的数据显示,2023年,SK海力士和三星电子各占有HBM市场47.5%的份额,但是预计2024年三星的市占将会下降到42.4%,SK海力士上涨到52.5%,美光基本维持不变,可见SK海力士正在吞并三星的市场。
图片来源:TrendForce
三星表示,在今年第三季度,HBM总销售额环比增长了70%以上。这家科技巨头补充说,目前被称为HBM3E的产品正在量产并产生销售,其下一代HBM4的开发正在“按计划进行”,该公司的目标是在2025年下半年开始“大规模生产”。
据韩媒9月报道,三星电子与台积电这两家在代工领域是对手的半导体巨头,如今已达成合作,共同致力于开发下一代无缓冲(buffer-less)HBM4芯片。真可谓“没有永远的盟友,也没有永远的敌人”。
据相关资料,HBM4将特别适用于需要大规模并行处理和高速数据传输的AI场景,如深度学习、自动驾驶和超级计算等。其制造工艺与前几代产品有显著不同,使其作为一个芯片顺利运行的先进封装方法也将发生变化。
为了实现HBM4的顺利生产,三星电子在技术研发方面投入了大量的资源。例如,在封装技术方面,三星采用了无凸点键合技术。这种技术可以显著提高内存的输入输出速度和可靠性,同时降低了制造成本。
据中国电子报,三星原定在HBM4设计采用7纳米工艺,但现在计划将工艺提升到4纳米,如此固然在芯片性能和用电量方面表现更优秀。但制程研发的花费更高,且良率挑战更大,可以说是一步险棋。
另外值得关注的是散热问题:由于HBM4的性能提升,其发热量也将大幅增加,如何有效地解决散热问题,将是三星电子需要面对的一个重要课题。
三星,能卷土重来吗?
分析师表示,三星落后于竞争对手的原因有很多,包括对HBM的投资不足以及它不是先发者的事实。“公平地说,三星未能缩小与SK海力士在HBM开发路线图上的差距”,晨星的Ito表示。
三星在短期内卷土重来的能力,似乎要看英伟达的脸色——其实哪家人工智能公司不看?
在英伟达批准任何一家公司成为HBM供应商之前,公司必须通过严格的资格认证流程,而三星尚未完全通过此验证。但分析师表示,英伟达一旦批准三星通过验证,可能会为三星重返增长并更有效地与SK海力士竞争打开大门。
Ito表示“由于英伟达占据了AI芯片市场90%以上的份额,而大多数HBM都用于该市场,因此英伟达的批准对于三星从对AI服务器的强劲需求中受益至关重要”。
三星发言人表示,该公司在HBM3E方面取得了“有意义的进展”,并且已经“完成了认证过程中的一个重要阶段”。预计将在第四季度开始扩大系列产品的销售。
不过,三星的研发实力以及公司的半导体制造能力可以帮助其赶上SK海力士。今年7月,据外媒报道,三星电子HBM3芯片首度通过了英伟达认证。三位知情人士透露,三星HBM3芯片目前将仅用于英伟达相对不复杂的H20 GPU,这款产品是专为中国市场开发的AI芯片,其运算能力相较于H100有显著上限。
三星或许需要首先反思自身的问题:首尔企业研究组织Leaders Index主管Park Ju-geun直言,三星由于自满和官僚作风,导致在过往称霸的芯片、智能手机到显示器等多数业务,面临越来越多结构性问题。
尾声
三星也曾经将一手好牌打得稀烂:由于决策层的失误,错过了人工智能相关内存的一大波红利。那么面对全新的内存技术,三星能否再创辉煌?让我们拭目以待!