铜连接:数据中心内短距传输优选,英伟达新方案有望拉动国内外需求
市场对于高速铜连接的研究多局限于铜缆本身,并未将连接器与线缆结合起来研判产业空间及发展趋势。本文将高速铜连接定义为线缆和连接器的整体解决方案,在市场空间测算和投资机会梳理中均充分考虑两者的区别并予以说明。市场或因英伟达供应链信息“GB200设计或从HDI+铜连接更改为高层高频低介电PCB”,而担忧未来高速铜连接市场空间受到影响,我们判断该影响有限。我们认为两类标的值得关注:1)切入英伟达产业链的国产线材&线缆供应商和连接器组件&代工商;2)国产算力链中的高速连接器供应商。
铜连接:数据中心内短距传输优选,英伟达新方案有望拉动国内外需求
铜连接包含铜缆及连接器,在短距场景下,高速铜连接相较光纤连接具有性价比、稳定性、功耗优势,正成为AI集群短距传输优选方案。英伟达于3月发布GB200系列机架,其中背板连接、近芯片连接及机柜间I/O连接均用到铜连接方案,我们预计25年GB200机柜对应铜连接价值量为245亿元。展望未来,英伟达新方案有望提振国内外铜连接需求,一方面切入英伟达产业链的国产公司有望受益,另一方面国内算力链亦有望借鉴并在集群中加入铜连接。我们认为两类标的值得关注:1)切入英伟达产业链的国产线材&线缆供应商和连接器组件&代工商;2)国产算力链中的高速连接器供应商。
GPU升级带动“铜进”,NVL72/NVL36*2铜连接价值量65/72万元
英伟达从DGX H100到GB200架构演进过程中,GPU升级、带宽提升叠加集群密度增加,短距传输背景下铜连接相比光、PCB方案更具优势,因而整体呈现“铜进”趋势。我们测算,NVL72/NVL36*2单方案对应铜连接价值量分别为65/72万元,其中背板连接:高速I/O连接:近芯片连接价值量之比接近6:3:1,若25年两方案分别出货1/2.5万套,则25年GB200铜连接市场规模为245亿元。我们看到,国内运营商、互联网厂商及华为等算力参与方对超节点、高密度的AI集群组网追求趋于一致,或受到英伟达新方案的带动,未来有望在国内的AI智算建设中加入更多铜连接。
高速铜连接市场长期由海外巨头垄断,国内通过自研或上游配套切入
高速铜连接市场集中度较高,全球来看,以安费诺、莫仕、泰科等公司为首的海外厂商,凭借技术优势及专业壁垒在连接器和线缆均占据较大份额:1)根据中国国际工程咨询数据,2020年56Gbps连接器市场中,安费诺、莫仕、泰科占有90%的市场;2)根据QYResearch,2022年全球高速直连铜缆前十强(海外包揽前九)占据69%的份额。国内厂商通过两种方式进入市场:1)部分公司通过供应线材、组件及代工等方式,为安费诺等头部公司提供产品配套;2)部分公司打破海外垄断,实现高速背板连接器国产替代,有望受益于国内算力建设。
关注海外链铜连接配套商以及领先的国产链生产商
展望未来:1)英伟达GB200服务器或将于Q4出货,海外铜连接产业链上游配套厂商有望受益;2)英伟达新方案向国内算力链传达新的连接理念,国内算力参与方有望在算力网络建设中添加铜连接设计,国内相关高速连接器及铜缆供应商有望受益。产业链相关公司包括:1)线材&线缆供应商;2)国产高速背板连接器厂商;3)国产高速I/O连接器厂商;4)连接器组件&代工商。具体公司名单,请见研报原文。
风险提示:1)GB200出货时间及规模不及预期;2)铜连接国内应用不及预期;3)本研报中涉及到未上市公司或未覆盖个股内容,均系对其客观公开信息的整理,并不代表本研究团队对该公司、该股票的推荐或覆盖。
报告核心要点
核心推荐逻辑
英伟达GB200新架构带动市场对高速铜连接的关注,我们认为数据中心内“铜进”趋势有望持续。高速铜连接包含铜缆及两端的连接器,在数据中心内部短距传输场景下,铜连接凭借性价比、稳定性及功耗优势成为优选方案,同时要注意到:光连接、PCB连接在应用场景上与铜连接存在互补。英伟达于3月发布GB200 AI服务器方案,我们看到从DGX H100到GH200再到GB200,GPU单卡算力不断升级、传输带宽的要求同步提升,同时随着算力密度的增加,传输距离相应缩短,在此背景下铜连接能够以更低的成本、更低的功耗实现与光连接相近的高速传输能力,同时在信号传输质量上优于PCB连接,因而机柜内呈现出“铜进”趋势。我们判断未来机柜内部铜连接应用仍将呈增长趋势,且随着集群密度的进一步提升,机柜间亦有望增加铜连接的使用。
我们预计,25年GB200铜连接市场规模有望达245亿元。我们看到,高速铜连接广泛应用于GB200方案中,包括背板连接、近芯片连接及机柜间的高速I/O连接均用到了铜连接方案。我们测算在单套NVL72方案中,以上三者铜连接价值量总计65万元,其中背板连接:外部I/O连接:近芯片连接=60%:33%:7%;单套NVL36*2方案中,以上三者铜连接价值量总计72万元,其中背板连接:外部I/O连接:近芯片连接=54%:37%:9%。若25年NVL36*2/NVL72方案出货量分别为2.5/1万套,则对应25年GB200高速铜连接市场规模为245亿元。
国内运营商、互联网厂商、华为等算力参与方对超节点、高密度的AI集群组网追求趋于一致,或受到英伟达GB200方案带动,未来有望在国内高密短距AI场景中加入更多铜连接设计。1)中国移动指出,未来随着大模型的进一步发展,算力形态将通过Scale up发展,突破传统单机8卡,形成高密度的超节点架构,中移动正牵头OISA(新的GPU互联体系)的发展;2)腾讯表示在未来推出的星脉网络3.0中或将融入最新的超节点技术;3)华为在2023年9月发布全新架构的昇腾AI计算集群Atlas 900 SuperCluster,亦创新性采用超节点架构。
我们建议关注GB200国内上游配套商以及国产算力链延伸机会。
1)从海外供应链配套角度看,由于安费诺、莫仕、泰科(AMT)等海外厂商在高速铜缆和高速连接器方面均具备领先地位,如2022年全球DAC市场营收规模前十有九家来自海外,CR10达到69%;2020年全球56Gbps高速连接器市场AMT三家占据90%市场,此外,安费诺24年-25年在英伟达铜连接中或将处于独供地位,因此我们认为短期投资机会集中于海外链上游配套供应商,产业链相关公司包括:1)为海外巨头配套线材&线缆供应商;2)为海外巨头提供连接器组件及代工配套的供应商。具体公司名单,请见研报原文。
2)从国内算力链角度看,英伟达GB200的超节点、高密度架构的成功或向国内算力传达新的理念,国内互联网厂商、运营商等终端客户以及华为等算力参与方有望在未来服务器架构中也加入铜连接元素,因此国内高速连接器厂商(尤其是高速背板连接器,其国产化率相对I/O连接器更高)以及线缆线材厂商有望受益,产业链代表公司梳理,请见研报原文。
与市场不同的观点
市场对于高速铜连接的研究多局限于铜缆本身,并未将连接器与线缆结合起来研判产业空间及发展趋势。本文将高速铜连接定义为线缆和连接器的整体解决方案,在市场空间测算和投资机会梳理中均充分考虑两者的区别并予以说明:
1)在市场空间测算中,我们以英伟达GB200 NVL72和NVL36*2两种方案为例,测算了其中各个应用部位(背板连接、近芯片连接及外部I/O连接)中的连接器和线缆各自的使用量及价值量,并基于此展望未来高速铜连接的市场空间;
2)在投资机会梳理中,本文将国内高速铜连接产业机会分为线材&线缆供应商、高速背板连接器厂商、连接器组件&代工商以及高速I/O连接器厂商四类,我们认为不同市场定位的供应商在产业格局、受益逻辑和受益程度上存在显著差异,因而将其投资机会分别进行阐释——短期内,建议关注切入海外巨头供应链的国内线材&线缆供应商和连接器组件&代工商,同时在国内算力板块亦可关注已实现国产化的高速背板连接器供应商;中长期来看,随着英伟达GB200理念的推广,国内算力产业链或将在服务器架构中增添铜连接设计,上述四类厂商均有望受益。
市场或因英伟达供应链信息“GB200设计或从HDI+铜连接更改为高层高频低介电PCB”,而担忧未来高速铜连接市场空间受到影响,我们判断该影响有限。我们认为:
1)两者性能比较来看,铜连接在信号完整性、抗电磁干扰性上优于PCB连接,PCB在空间占用、成本、散热性能上优于铜连接,综合来看,铜连接将在大多数情形下更胜一筹;
2)高层高频低介电PCB的研发难度较高,且需要得到PCB厂商的大力配合,因此从研发到量产落地需要时间,业界预计新方案最早在2H25以后(Blackwell Ultra上市)才能落地,而GB200目前的方案有望于4Q24进行出货,短期内对铜连接的需求影响有限;
3)根据我们的判断,本次新设计主要是将GB200服务器中Switch Tray上NVSwitch芯片与背板相连的Overpass换作PCB连接,以满足液冷散热的设计,此外新设计仅可应用在NVL72上(密度更高、对液冷要求更苛刻),而NVL36*2若想采用相同的设计则可能导致更高的成本,因而市场普遍预计NVL36*2不会受到影响,根据我们的测算本次新设计对单套NVL72/NVL36*2铜连接价值量的影响为-4万元/0万元。
高速铜连接:数据中心内部短距传输优选方案
高速铜连接由铜缆和两端连接器构成,聚焦短距传输场景
高速铜缆:以无源DAC为主,可由多组差分信号线组成
高速铜缆主要有DAC、ACC和AEC三种形式,DAC是最为通用的方案。在早期,高速铜缆一般指的是DAC(Direct Attach Cable),即无源直连铜缆,由镀银铜导线和泡沫绝缘芯线制成的高速电缆组成。随着所需支持的传输速率提升,铜缆的损耗过大而无法满足互联长度需求的时候,人们考虑在铜缆内部增加有源信号驱动器芯片,这些芯片将补偿部分铜缆传输带来的损耗,以增加传输距离,按有源芯片的不同可以分为ACC(Active Copper Cable)和AEC(Active Electrical Cable):1)ACC是在线缆Rx端加入一定能力的线性Redriver来提供信号的均衡和整形中继,延长端到端的传输距离,一般来说ACC可以在DAC的基础上增加2-3米传输距离;2)AEC实在线缆两端加入CDR(时钟数据恢复)对电信号进行重新定时(Retimer)和重新驱动,其所能补偿的铜缆损耗能力一般比ACC更强,并且可以有效阻隔抖动的传递,所以能支持的端到端连接距离比ACC更长。
一般来讲,高速铜缆最主要的应用在于5米以下短距传输场景,DAC已然能够满足,而ACC、AEC更加适用于有一定传输距离要求和传输性能保障要求的场景;此外,无源DAC相比ACC、AEC两种有源铜缆来说,低功耗的优势更加显著,因而在数据中心网络中通用性更强。
从构成来看,高速铜缆由一组或多组差分信号线组成。一组差分信号线主要包括两根高速线、一根地线及其周边的绝缘层和屏蔽层,其中高速线是核心部分,材质为镀银铜线(银的导电性能优于铜,镀银线相比纯铜线电信号传输效率更高),被绝缘层所包裹。差分线外部还有金属编织网和包层,分别起屏蔽作用及加固保护作用。目前一组差分信号线最高可以实现224Gbps的传输速率,高速铜缆可由多对差分信号线组成,以实现更高的通信速率。
差分信号线相对传统的单端信号线的做法,在抗干扰能力、保持信号完整度方面具备显著优势。差分信号线的工作原理在于两根线都传输信号,这两个信号振幅相同,相位相反,信号接收端通过比较这两个电压的差值来判断发送端发送的逻辑状态。该传输方式相对单端信号走线来说,存在两大突出优势:1)抗干扰能力,因为两根差分走线之间的耦合程度较高,当外界存在噪声干扰时,几乎是同时被耦合到两条线上,而接收端关心的只是两信号的差值,所以外界的共模噪声可以被最大程度抵消;2)保持信号完整度,当信号通过长距离传输时,信号的品质容易受到衰减和失真的影响,而差分信号通过对两个相反的信号进行传输,即使信号发生衰减或失真,差分信号的接收端仍然可以通过比对两个信号来还原出原始信号,从而保证了信号的完整、可靠。
高速连接器:数通设备间高速传输的桥梁,种类丰富
高速连接器是指能够在高频信号下保持稳定传输性能的连接器,主要分为背板、I/O、近芯片连接等形式。高速连接器以铜质导体作为传输媒介,通过优化结构、材料和信号处理技术,实现高速、低延迟、高可靠性、高密度的数据通信,其应用领域覆盖数据中心网络、通信基站、消费电子等。按照在服务器中的应用部位及形态,高速连接器主要分为高速背板连接器、高速I/O连接器、高速近芯片连接器、高速夹层连接器等类型。其中,1)高速背板连接器用以实现单板和背板间成90度垂直的连接,传递高速差分信号等;2)高速I/O连接器安装在通信设备及服务器设备的面板上,一端与内部的PCB板连接,另一端可对插光电转换模块,实现设备内外部的数据交换;3)高速近芯片连接器提供芯片到前端I/O或后端背板的连接;4)高速夹层连接器用于实现两块平行PCB板间的上下扣合,近年来PCB不断向多层板拓展,多层板技术要求在单一电路板上集成更多功能,而减少多个电路板之间通过夹层连接器的互联(或产生更多损耗),因此该类型连接器的应用有弱化趋势,本文暂不讨论。
短距传输场景下,铜连接有望成为首选方案
由于铜连接所支持的传输距离有限,本文主要聚焦数据中心网络中传输距离较短的机柜内互联,数据中心机柜可由多层托盘(或称Tray、板)构成,因此我们将其进一步划分为板外互联和板内互联,板外互联包括光模块+光纤、有源光缆(AOC)和直连铜缆(DAC)三种主要形式,板内互联包括铜缆高速跳线(Overpass)和PCB连接两种主要形式。其中,板外互联一般更为复杂、对应连接价值量更高,受到市场广泛关注;板内互联则根据客户需求、服务器内部构型的不同而灵活选择。
板外互联方面,铜连接在性价比、稳定性、功耗方面均优于光连接
板外互联方面,光连接与铜连接方案因介质、架构、设计不同而在应用场景上有所分化。分别来看:1)光模块+光纤是目前AI集群中应用最广泛的方案,依靠光模块高带宽、低衰减和抗干扰的优势,实现长距离、高速率的数据传输,该方案光模块与光纤相互独立;2)AOC由两端的两个集成模块组成,并用光纤连接,由于其轻质紧凑的设计,可以满足在空间有限的数据中心内高密度连接的要求,目前是数据中心、HPC环境和InfiniBand交换机互连的理想选择;3)DAC方案不包含光模块,与依赖光电转换过程的光纤模块不同,DAC具有低功耗、低成本的优势,且该方案依赖于铜线介质,在电信号传输距离方面受到限制,因此更加适合短距传输。
在短距传输场景,铜连接相比光连接方案具有更低成本、更稳定、更低功耗的优势。我们以DAC、AOC作为主要的比较对象:
1)成本优势:DAC不包含光电转换器模块,结构简单,并且在布线时可有效节省光纤的使用,在BOM成本上较AOC有明显优势,根据ODCC《下一代数据中心高速铜缆白皮书》(2020)统计,单根25G DAC的价格仅为25G AOC的1/3至1/4;
2)稳定性优势:DAC是电信号直连方案,相较于AOC方案需要多次光电信号转换,DAC具有更高的运行稳定性,若用平均无故障时间(MTBF)来衡量,DAC的MTBF大约为50000万小时,通常比光缆的行业标准高出一个数量级;
3)功耗优势:与依赖光电转换的光纤、光模块不同,DAC数据电缆传输电信号的功耗相对较低,一根25G DAC的线缆功耗在0.1W左右,而同样速率的AOC功耗则在2W左右,相差10倍以上。我们认为,对于像GB200 NVL72这样高密度、高功耗的大型机架系统,对于内部组件功耗大小更加敏感,铜缆将凭借其低功耗优势发挥重要作用。
板内互联方面,铜连接相比PCB在保障信号传输质量上更具优势
板内互联方面,我们认为铜缆连接相比PCB来说有更好的信号完整性和抗电磁干扰性,在短距传输中有更高的普适性。市场目前较为关注“PCB连接能否代替板上高速跳线铜缆(Overpass)”,我们看到铜缆在信号完整性和抗电磁干扰性方面领先于PCB,或在大多数情形下成为板内互联的优选方案:1)铜缆具备较低的信号衰减和较少的串扰,而高速传输场景下PCB布线较为紧密,走线间的串扰比较严重(串扰:高速PCB中紧密走线之间不需要的电磁耦合),将导致信号的损耗,因此铜缆比PCB更加适合高频信号传输;2)铜缆具备屏蔽层,可以有效减少外部电磁干扰,保证传输质量,而PCB则可能受到电磁干扰导致传输效果变差。
另一方面,在一些对空间和散热要求较为苛刻的架构中,PCB连接或为更优的方案。另一方面来看,PCB连接相比铜连接具有更小的空间占用、更低的成本和更优的散热性能,在一些对于散热要求较高但铜缆设计难以满足要求的架构中或为更合适的选择。例如,在NVL72机型的散热设计中,为了在板内塞下液冷冷却管,板内的Overpass铜缆跳线由于体积较大需要进行弯折处理,但弯折后铜缆本身的传输稳定性、信号质量均下降,无法发挥出铜缆应有的优势。而如果替换为PCB连接,PCB布线较为紧凑,可以有效节省空间,从而顺利完成NVL72液冷管的部署,此外PCB成本较低,叠加本身更多板数带来的散热性能提升,或为本场景中更优的方案。
高速铜连接应用广泛,机柜内三大典型场景均有分布
数据中心将根据传输距离、传输性能要求等来分别选用光连接、铜连接、PCB连接方案。我们对数据中心中各路通信网络的梳理如下:以数据中心为分界面,数据中心与数据中心之间的互联称为DCI(Data Center Interconnect),通常使用光缆连接。数据中心内的连接包含机柜间互联与机柜内互联,其中机柜间互联主要是两个机柜架顶交换机通过光模块+光纤的方案进行互联,此外类似NVL36*2方案中NVSwitch Tray之间需要通过ACC铜缆进行互联;机柜内互联是本文聚焦的重点,又分为板间互联和板内互联:1)板间互联:a.架顶交换机与内部计算单元(服务器)之间通过AOC(亦可选择光模块+光纤)进行连接;b.对于英伟达这类具有额外的GPU互联方式(即NVLink)的机柜,计算单元与NVSwitch Tray进行背板互联时可选择“大型PCB板+背板连接器”方案或“高速铜缆+背板连接器”方案。2)板内互联:板内芯片需连接到前端和背板,以NVSwitch Tray为例,其中在连接背板时可选择铜缆连接或PCB连接,连接前端端口可使用铜缆进行连接。
我们看到,目前高速铜连接在AI/HPC数据中心中机柜内互联应用较为广泛,典型分布区域包括背板连接、外部I/O连接以及近芯片连接。我们以安费诺的产品为例,具体阐释各个部分的应用情况:
1)背板连接:背板连接器主要用于服务器内部背板与单板的连接,以提高数据速率和缩短信号上升时间,确保数据在服务器内部高速、稳定地传输,高速背板连接器还提供灵活的架构设计及多种电缆出口选项,如直线、直角和共面,有助于导线管理、端接和布线。代表产品如安费诺的Paladin系列和ExaMAX系列背板连接器,其中Paladin HD 224Gbps或为首批搭载在英伟达GB200 NVL72服务器上的背板连接器。
2)外部I/O连接:铜缆可与外部I/O连接器进行端接,从而降低信号损耗、PCB设计复杂度及成本。I/O连接器是通过频繁插拔的电缆与其应用之间的安全电气接触,实现高速的数据传输的电连接器。目前主流的4类高速I/O连接器分别为SFP、QSFP、QSFP-DD以及OSFP,这些高速I/O连接器采用不同的性能方案,提供28Gbps/56Gbps/112Gbps/224Gbps的单信号速率,并支持单通道到多通道的传输,以满足在高密度、高性能的数据中心中不同的高速数据传输需求。相应的DAC电缆可以选择各种长度,从1m到10m,适配不同的网络部署。
3)近芯片连接:主要用于GPU、ASIC芯片到背板以及前端的连接,该方案可以有效减少信号从芯片近端口传输到外部端口时的损耗,代表方案如安费诺Densilink。
英伟达GB200服务器新架构拉动国内外高速铜连接需求
GB200:72xGPU高密服务器方案,机柜内呈现“铜进”趋势
英伟达于今年3月在GTC大会中发布多节点、高密度、液冷型的机架级系统GB200,适用于计算密集型的工作负载。GB200主要有GB200 NVL72和GB200 NVL36*2两种形态,它们结合了36个Grace Blackwell超级芯片,其中包括72个Blackwell GPU和36个Grace CPU,这些GPU通过双向1.8TB/s的第五代NVLink互连。与相同数量的英伟达H100 Tensor Core GPU相比,GB200 NVL72可将LLM推理工作负载的性能提高30倍,并将成本和能耗降低25倍。
本次GB200新架构的亮点在于大量采用“铜连接”设计,从DGX H100到GB200呈现明显的“铜进”趋势。我们回顾英伟达DGX H100到GH200再到GB200的服务器架构演进史发现,随着GPU带宽和机柜密度的不断提升,机柜内铜连接的使用量也随之增长。在DGX H100阶段,H100通过NVLink 4.0进行连接,交换机与服务器、交换机与交换机之间以光连接方案作为主导;在GH200阶段,机柜密度开始提升,柜内部分互联改用铜连接,但光连接仍在机柜间互联中占据主导地位;在GB200阶段,机柜密度再次升格,B200开始通过NVLink 5.0进行连接,最明显的一处变化在于背板连接由过去的PCB整板转变到背板连接器+铜缆的形式,另外板内、机柜间的铜缆用量也显著增加。
我们认为,随着GPU单卡算力升级,对传输带宽要求也同步提升,同时机柜集成度增加、算力密度增加,也缩短了传输距离,在机柜内短距传输场景中,铜连接能够以较低的成本实现与光连接相近的高速传输能力,且经由屏蔽设计的铜缆相比PCB连接能提供更优异的传输信号完整性和抗电磁干扰性。此外,对于像GB200 NVL72这样的高密度、超节点架构来说,机柜对于功耗更加敏感(B200单卡功耗超过1000W),而铜连接多为无源器件,天然具备低功耗优势。综合来看,高速铜连接在现代AI集群短距传输中优势凸显,我们判断未来机柜内部铜连接应用仍将呈增长趋势,且随着集群密度的进一步提升,机柜间亦有望增加铜连接的使用。
依照前述框架,高速铜连接在数据中心机柜内中有三大典型应用场景:背板连接、近芯片连接与外部I/O连接,我们梳理GB200架构中各部位铜连接应用如下:
1)背板连接:包括计算Tray和NVSwitch Tray之间的高速连接铜缆,它们两头分别连接计算Tray和NVSwitch Tray上的Paladin背板连接器。具体来看,以GB200 NVL72为例,GB200 NVL72由18个计算Tray、9个NVSwitch Tray以及顶端的IB交换机构成,机柜背部由密集的高速铜缆实现Tray间互联。
2)近芯片连接(Tray内部或板内):主要是NVSwitch Tray板上的芯片与前端OSFP以及后端背板连接器相连的Overpass跳线,以及计算Tray板上的GB200芯片与前端OSFP以及后端背板连接器相连的连接线(一般PCIE 5线已经够用,这部分我们不算在高速铜连接内)。
具体来看:1)NVSwitch Tray:每个Tray由2个28.8Tb/s的NVLink Switch5 ASIC构成,单个NVSwitch芯片周围共有4个铜缆端口,每个端口通过大量的overpass与安费诺的Paladin HD背板连接器相连(见下图淡蓝线),此外NVSwitch芯片还需额外的DensiLink跨接电缆与OSFP CAGE进行连接(DensiLink亦属于Overpass跳线的一种);2)计算Tray:每个计算Tray包含2个Bianca板,每个Bianca板包含1个Grace CPU和2个Blackwell GPU,计算节点内部存在高速跳线(overpass),GB200芯片结合体与Tray上的OSFP CAGE之间亦有铜连接。
3)外部I/O连接:主要包括机柜间的ACC(仅存在于NVL36*2机柜型),相比NVL72来说,NVL36*2形态下的GB200服务器需要额外的9组高速铜缆(据SemiAnalysis测算,共18*9=162条1.6T双端口水平ACC)来实现两个机柜的NVSwitch Tray的互联。此外,需要额外的I/O连接满足计算设备与网络设备之间的互联。
NVL72/NVL36*2方案铜连接价值量65/72万元,其中背板价值接近60%
英伟达在3月GTC大会展示GB200 NVL72机架中提到:机柜间背板采用5000多根铜缆进行连接。我们先阐释“5000多根铜缆”是如何测算得到的:由于NVL72采用第五代NVLink进行GPU之间的互联,NVLink Gen5提供双向1.8TB/s带宽,即单向900GB/s,目前每个差分对(DP)单向传输速率水平能达到200Gb/s,由于1GB/s=8Gb/s,故每个GPU需要72个高速差分对才能实现双向传输,NVL72总共72个GPU则对应为5184个差分对,NV用的1条铜缆含1个差分对,即需要5184条铜缆。
我们测算,单套NVL72/NVL36*2方案高速铜连接价值量分别为65万元/72万元,其中两套方案中背板连接的价值量均接近60%,背板连接:高速I/O连接:近芯片连接价值量之比近似为6:3:1。我们合理假设:高速铜缆价格为20元/米(约3美元/米)、高速背板连接器220元/个(约30-40美元/个)、Overpass连接器150元/个、一套外部IO连接价值量为6000元。基于以上假设,我们测算:1)NVL72:分为背板连接、近芯片连接、外部IO连接三类,对应价值量分别为38.9万元、4.7万元和21.6万元,占比分别为60%、7%和33%;2)NVL36*2:相比NVL72方案最大的变化在于多出机柜间的ACC互联,若分为背板连接、近芯片连接、外部IO连接三类,则对应价值量分别为38.9万元、6.1万元、26.8万元,占比分别为54%、9%和37%。
我们测算,NVL72方案中GPU:光模块:铜连接三者价值量的比例分别为100%:11%:4%,铜连接性价比优势突出。我们合理假设,NVL72中单张B200 GPU价格为3.5万美金,单只1.6T光模块为1300美金,GPU与1.6T光模块的对应比例为1:3,美元兑人民币汇率取7.12。由此计算得NVL72中72xGPU价值量总计为1794万元,1.6T光模块价值量总计为200万元,根据上述计算NVL72中铜连接价值量约为65万元,可得NVL72方案中GPU:光模块:铜连接三者价值量的比例分别为100%:11%:4%。
2025年GB200服务器对应高速铜连接市场规模有望达到245亿元。根据TrendForce集邦咨询预测,2025年英伟达GB200服务器出货量有望达到6万台,其中NVL72/NVL36*2方案对应出货量分别为1万套/2.5万套,则根据我们对单机柜的高速铜连接价值量测算结果,可推导出2025年GB200服务器对应高速铜连接市场规模为245亿元。
我们注意到,市场因产业信息“GB200设计将从基于HDI+铜连接更改为高层高频低介电PCB”,而担忧未来高速铜连接市场空间受到影响,我们判断该影响有限。我们认为:1)高层高频低介电PCB的研发难度较高,且需要得到PCB厂商的大力配合,因此从研发到量产落地需要时间,业界预计新方案最早在2H25以后(Blackwell Ultra上市)才能落地,而GB200目前的方案有望于4Q24进行出货,短期内对铜连接的需求影响有限;2)根据我们的判断,本次新设计主要是将GB200服务器中Switch Tray上NVSwitch芯片与背板相连的Overpass换作PCB连接,节省空间以满足液冷散热的设计,该项新设计仅应用在NVL72上(密度更高、对液冷要求更苛刻),而NVL36*2若想采用相同的设计则可能导致更高的成本,因而市场普遍预计NVL36*2不会受到影响。
基于此前的测算,单套NVL72/NVL36*2方案高速铜连接价值量分别为65万元/72万元,由于暂不确认2H25后新方案的其他更改,目前我们仅考虑“以高频低介电PCB替代Switch Tray上的Overpass铜缆”这一设计变化,该变化对NVL72/NVL36*2价值量的负面影响为-4万元/0万元(即除去Switch Tray上的Overpass价值量),影响后单套NVL72/NVL36*2方案高速铜连接价值量分别为61万元/72万元,对应替代前价值量比例为94%/100%,对应2025年GB200服务器铜连接市场空间为240.5亿元,综合来看“PCB新设计”对铜连接市场空间影响约4.1亿元(2025年,华泰预测)。
受英伟达GB200理念带动,国内算力集群或增加铜连接设计
前提——国内互联网厂商早在2018年便开始探索在数据中心中加入铜连接。根据ODCC《下一代数据中心高速铜缆白皮书》(2020),自2018年开始,伴随着国内大型数据中心自建,机柜功耗密度大幅度提升,同时数据中心网络架构的升级和网络交换机趋于白盒化,国内大型互联网厂商开启了数据中心铜连接先行先试:1)以阿里巴巴为代表的大型数据中心用户率先在新建基地中快速切入10G/25G DAC,并迅速规模化;2)以腾讯为代表的大型数据中心在超过5m需求的场景中引入有源铜缆ACC作为更长距离需求的补充。两大互联网厂商皆享受到高速铜缆相比AOC的红利,如成本节省、网络链路稳定性增强等。
国内运营商、互联网厂商、华为等领先企业正共同探索AI集群“超节点”发展趋势,铜连接有望在未来国内高密短距AI场景得到广泛应用。1)中国移动在《面向超万卡集群的新型智算技术白皮书》(2024)中指出,未来随着大模型的进一步发展,算力形态将通过Scale up发展,突破传统单机8卡,形成高密度的超节点架构,中移动目前正牵头OISA(全向智感互联)体系的发展;2)腾讯在2024年7月发布星脉网络2.0,该网络搭载全自研网络设备与AI算力网卡,支持超10万卡大规模组网,网络通信效率较上一代提升60%,并表示将继续追求“超节点”,在未来推出的星脉网络3.0中或将融入最新的超节点技术;3)华为在2023年9月全连接大会上发布全新架构的昇腾AI计算集群Atlas 900 SuperCluster,采用全新华为星河AI智算交换机,两层交换网络实现2250节点(等效18000张卡)的超大规模无收敛集群组网,该集群也创新性采用超节点架构,大大提升了模型训练能力。
我们认为,国内运营商、互联网厂商及华为对超节点、高密度的AI集群组网追求趋于一致,这与英伟达GB200 NVL72架构的设计理念相吻合,因此高速铜连接作为本次GB200机架的增量设计,未来亦有望在国内的AI智算中心建设中批量采用。
关注海外链配套商以及领先的国产链生产商
产业全景:线缆与连接器供应商处在铜连接产业链中游核心环节
高速铜连接产业链包含上、中、下游:1)上游主要为各种材料,包含金属材料、电镀材料、塑胶材料和其他陶瓷玻璃材料等,其中金属材料以铜为主,电镀材料包括镀金、镀银、镀镍等;2)中游为产业链的核心环节,我们将其分为线材&线缆和连接器两大部分,其中安费诺、莫仕、泰科为综合性国际巨头,在线缆与连接方面均具备较高的市场份额,分板块来看国内的公司,线材&线缆板块包括线材、镀银导线、PCIe线等,连接器板块按连接器类型及分工可以分为高速背板连接器厂商、高速I/O连接器厂商以及连接器组件及代工商;3)下游为终端客户,直接客户包括英伟达、华为及其他国产算力服务器供应商,间接客户包含互联网厂商、电信运营商以及政企金融、地方智算中心等。
产业格局:海外巨头占据较高份额,国产厂商分兵突破
高速铜缆:2022年全球CR10达69%,海外厂商占据前九席
2022年全球高速铜缆DAC市场CR10达69%,海外厂商占据前九席位。根据QYRsearch《高速直连铜(DAC)电缆全球市场研究报告2023-2029》,2022年全球DAC前十强厂商占有大约69%的市场份额,其中前九名厂商均来自海外,包括安费诺、莫仕、泰科、Juniper、Volex等,国内立讯列第十。
高速连接器:国内背板连接器厂商逐渐打破海外垄断,部分通过上游配套进入海外供应链
在25Gbps以上的高速连接器方面,安费诺、莫仕、泰科等以往通过互授专利构筑壁垒,占据绝大部分市场。根据中国国际工程咨询公司《重点电子元器件研究报告》(2020),安费诺、莫仕、泰科等海外公司利用领先的技术优势,在世界各地抢先注册专利,并通过成立专利授权战略联盟,构筑较强的专利壁垒,2020年三大巨头在高速连接器领域专利超过550项。得益于此,2020年前以上几家巨头在全球高速连接器市场上占据绝大部分份额,具体来看:2020年全球25Gbps高速连接器市场中,安费诺、莫仕、申泰、泰科市占率达72%、20%、3%、5%;2020年全球56Gbps高速连接器市场中,安费诺、莫仕、申泰、泰科市占率达60%、28%、10%、2%。
国内高速背板连接器:华丰、庆虹、中航光电等厂商已在112G及以上的高速产品的研制方面跟上海外巨头的步伐,有望受益国内算力建设。过去,安费诺等海外头部厂商凭借专利壁垒享有高速背板连接器领域较高的份额,在56G/112G/224G的研制量产节点分别是2014/2018/2022年左右,其中在56Gbps及以下的高速背板领域领先国内约5-7年,自2019年开始,华为、中兴开始扶持国内高速背板连接器厂商,华丰科技、庆虹电子等开始在112Gbps的研制进度上跟上海外巨头的步伐,其中华丰科技在2020年完成56Gbps背板连接器客户认证;在2023年上半年完成112Gbps的主要客户产品测试并将参与重点客户的下一代服务器;在224Gbps产品方面公司于2022年开始预研,已在2023年上半年达成样品试制合格。我们看到,我国高速背板连接器厂商在近几年成功突破海外封锁,实现了国产替代,尤其是在112Gbps及以上的产品的研制中迎头赶上海外巨头,弱化了海外厂商的专利壁垒限制,后续有望深度受益国内算力建设。
国内高速I/O连接器:海外厂商占据大部分份额,国内厂商虽有参与但整体份额仍有较大突破空间,意华等厂商积极布局112G高速产品,鼎通等厂商通过供应组件&代工形式切入海外龙头产业链。国内高速I/O连接器在以往长时间段内由海外安费诺等巨头垄断,近年来,随着下游通信设备厂商对国产化内部器件的需求日益增长,国内意华、立讯、方向电子等厂商纷纷开始布局25G以上高速I/O连接器,目前已实现25G/56G产品的量产。而在112G以上高速产品方面,意华、方向电子均有相应产品面世并已完成小批量生产,立讯在2023年报中指出公司OSFP 224G连接器样品已完成初步SI测试数据。我们认为,未来国内算力建设中将再度提升对内部芯片、元器件的自主可控要求,如中移动今年预计商用三大自主可控的万卡集群,国内高速I/O连接器品牌商有望长期受益。
另一方面,鼎通科技、奕东电子等厂商通过为海外巨头做上游配套,我们认为这些厂商将从另一条路径直接享受铜连接趋势带来的红利。以鼎通为例,鼎通通讯连接器组件产品下游直接客户为安费诺、莫仕等连接器模组制造商,其生产的组件经过客户集成其他功能后形成连接器模组,并最终配套供应通讯设备厂商。鼎通、奕东分别在23年报中表示,正积极配合客户开发QSFP-DD 112G/OSFP-DD/OSFP等系列新产品,其中鼎通在24年中报中披露,新品QSFP-DD/OSFP 112G系列开始量产。我们认为,国内连接器组件及代工商已与海外连接器模组龙头建立稳定合作关系,考虑到安费诺在英伟达铜连接供应链的龙头地位,未来国内代工商有望率先享受英伟达GB200新架构引领的铜连接增长红利。
投资建议
我们建议关注GB200国内上游配套商以及国产算力链延伸机会:1)从海外供应链配套角度看,由于安费诺、莫仕、泰科(AMT)等海外厂商在高速铜缆和高速连接器方面均具备领先地位,如2022年全球DAC市场营收规模前十有九家来自海外,CR10达到69%;2020年全球56Gbps高速连接器市场AMT三家占据90%市场,此外,安费诺24年-25年在英伟达铜连接中或将处于独供地位,因此我们认为短期投资机会集中于海外链上游配套供应商,产业链相关公司包括:I.为海外巨头配套线材&线缆供应商;II.为海外巨头提供连接器组件及代工配套的供应商;2)从国内算力链角度看,英伟达GB200的超节点、高密度架构的成功或向国内算力传达新的理念,国内互联网厂商、运营商等终端客户以及华为等算力参与方有望在未来服务器架构中也加入铜连接元素,因此国内高速连接器厂商(尤其是高速背板连接器,其国产化率相对I/O连接器更高)以及线缆线材厂商有望受益。
风险提示
1)GB200出货时间及规模不及预期;若英伟达GB200服务器的出货时间不及预期,则其内部所用铜连接的订单将有所延迟,影响短期内产业链公司业绩情况,另外若GB200服务器市场需求较差,出货规模不及预期,亦将减少铜连接的应用规模。
2)铜连接国内应用不及预期;我们在报告中展望国内算力建设亦有望参考英伟达GB200架构,逐步切换向高密度、超节点的集群模式,在这一过程中,铜连接作为短距传输的优选方案也将大量应用,若铜连接在国内的应用接受度不及预期,则将影响产业链公司的业绩兑现及行业规模的增长。
3)本研报中涉及到未上市公司或未覆盖个股内容,均系对其客观公开信息的整理,并不代表本研究团队对该公司、该股票的推荐或覆盖。
相关研报
王兴 分析师 S0570523070003 | BUC499
高名垚 分析师 S0570523080006 | BUP971
王珂 分析师 S0570524080005
陈越兮 联系人 S0570123070042
唐攀尧 联系人 S0570124040002
关注我们
https://inst.htsc.com/research
访问权限:国内机构客户
https://intl.inst.htsc.com/research
免责声明