英伟达AMD英特尔联手，投出一家AI芯片独角兽

科技 2024-12-12 12:56 中国台湾

利用光学I/O推动AI革命。

作者 | ZeR0

编辑 | 漠影

什么样的初创公司，能同时拿到英伟达、AMD、英特尔三大芯片巨头的投资？

答案是Ayar Labs。

芯东西12月12日报道，硅谷光互连芯片设计公司Ayar Labs昨日宣布完成英伟达、AMD、英特尔、格芯等参投的1.55亿美元融资。

与台积电有战略合作关系的VentureTech Alliance、美国机器制造巨头3M也参与了此轮融资。

目前其累计融资达3.7亿美元，估值已超过10亿美元，成为新晋芯片独角兽。

Ayar Labs联合创始人兼CEO马克·韦德（Mark Wade）说：“领先的GPU提供商AMD和英伟达以及半导体代工厂格芯、英特尔代工、台积电，再加上Advent、Light Street和我们其他投资者的支持，凸显了我们的光学I/O技术重新定义AI基础设施未来的潜力。”

获得如此多芯片巨头的青睐，Ayar Labs凭什么？

01.

AI的下一个百万倍加速，

需要光互连等先进技术

Ayar Labs成立于2015年，总部位于加州圣何塞，专门为大规模AI工作负载提供光互连解决方案。其瞄准的赛道，如今正是下一代AI基础设施建设的关键技术之一。

高盛近日发布的一份报告预测，未来十年，AI基础设施支出预计将超过1万亿美元。这凸显了对消除传统铜互连、可插拔光学器件造成的瓶颈的解决方案的迫切需求。

当前大多数数据中心的运营依赖于传统的电互连，铜线是数据中心短距离信息传输的标准。AI服务器系统在持续传输数据过程中会消耗大量电力，打破现有AI基础设施瓶颈的有效解法之一，便是采用光互连技术来加速通信。

采用传统互连时，随着AI模型复杂性增加，系统效率会降低。据Ayar Labs官网分享，一颗GPU的运行效率为80%，64颗GPU的运行效率可能是50%，256颗GPU的运行效率可能只有30%了。光学I/O则能够针对提高AI基础设施的性能和能效。

英伟达数据中心产品首席平台架构师罗伯·奥伯（Rob Ober）认为，过去十年，英伟达加速计算已经为AI带来百万倍的加速，而下一个百万倍的加速将需要光学I/O等全新技术，来支持未来AI/ML工作负载和系统架构的带宽、功率和规模要求。

OpenAI计算主管克里斯托弗·伯纳（Christopher Berner）也强调道，横向扩展期间的互连带宽对于防止加速器在等待网络传输或梯度时停转至关重要。

02.

突破数据移动瓶颈，

用光互连加快AI系统通信速度

此前光一直被用于数据传输，只不过主要用于电信网络的长距离通信中。

Ayar Labs则将这项技术塞进了芯片封装里。

该公司开发了业界首款针对大规模AI工作负载优化的封装内光学I/O解决方案。相比采用可插拔光学器件+电气SerDes的传统互连，Ayar Labs的方案可实现5~10倍的更高带宽、4~8倍的能效，并将延迟降低至1/10。

其方案结合了两项行业首创技术——TeraPHY光学I/O Chiplet和SuperNova多波长光源。

TeraPHY可集成到客户的SoC封装中，利用其SuperNova远程光技术实现更快的芯片间通信，从而帮助客户最大限度地提高AI基础设施的计算效率和性能，还能提高“AI应用的盈利能力指标”。

TeraPHY光学I/O Chiplet是一款体积小、功耗低、吞吐量高的铜背板和可插拔光学通信替代方案，其模块化多端口设计科承载8个光通道（相当于x8 PCIe Gen5链路）。

它将硅光子学与标准CMOS制造工艺结合，使专用集成电路（ASIC）能跨越从毫米到千米的距离进行通信，相当于形成一个巨型GPU。每个端口有256Gbps，每个Chiplet有2Tbps。

万亿参数AI模型和高性能计算（HPC）设计需要不断增加的带宽。Ayar Labs光学I/O提供4Tbps的总双向带宽，为生成式AI架构开辟了新的可能性。

高性能计算（HPC）和AI的分布式计算系统无法容忍传统电气I/O前向纠错带来的数十纳秒额外延迟。而Ayar Labs光学I/O的延迟为每Chiplet + TOF 5纳秒，无需前向纠错。

为了使电气I/O和可插拔光学器件能够穿越系统、机架和数据中心，112 Gbps长距离电气I/O会消耗6-10pJ/b的能量。Ayar Labs光学I/O消耗的能量则不到5pJ/b（10W）。

SuperNova是首款符合CW-WDM MSA标准的多波长、多端口光源，最多支持将16种波长的光传输至16根光纤。

与CWDM4多波长可插拔光学器件相比，其波长增加了64倍。该光源可驱动256个光学载波，实现16Tbps的双向带宽。

Ayar Labs基于开放标准（UCIe、CXL、CW-WDM MSA），使其能顺利大规模集成到AI系统中。

这些芯片由格芯生产。Ayar Labs还与英特尔合作，将其技术集成到英特尔的制造产品中。该公司也在与台积电洽谈。

HPE、英特尔、洛克希德·马丁、英伟达都是Ayar Labs的技术合作伙伴。其供应链合作伙伴包括格芯、MACOM、Sivers Semiconductors等。

03.

瞄准AI数据中心挑战的

硅光子学竞争者们

几个月前，Ayar Labs开始向部分客户出货了约15000台设备。马克·韦德希望到2026年中期，其芯片能实现大批量生产；到2028年及以后，每年出货量可达到1亿台以上。

Advent Global Opportunities和Light Street Capital是Ayar Labs最新融资的领投方。

Advent Global Opportunities合伙人乔丹·卡茨（Jordan Katz）将加入Ayar Labs董事会。他相信光互连技术将彻底改变AI基础设施的未来，而他认为Ayar Labs是引领这场革命的最佳初创公司。

其他投资方中，英伟达正在基板层实现光学互连，英特尔也在今年早些时候展示了芯片间光通信。

不过，Ayar Labs并非光互连领域的独孤求败。

今年9月，瑞士光互连创企Lightium AG完成700万美元种子轮融资，投资方包括谷歌等；10月，美国光子计算及网络创企Lightmatter完成4亿美元D轮融资，总融资额达到8.5亿美元，估值超过44亿美元；同样在10月，另一家美国光子技术创企Xscape Photonics完成4400万美元A轮融资，由思科、英伟达等参投。

在国内，上海曦智科技是全球首家以光计算和光互连为核心的AI芯片公司，已经构建光子计算和光子网络两大产品线，其Photowave系列是业界首款兼容PCIe 5.0和CXL 2.0协议的光互连硬件产品，数据传输延迟可以达到20纳秒（+TOF*）以内，其中有源光缆延迟可低至1纳秒以下。曦智科技的首个CPO共封装光学项目也正在落地中。

04.

结语：重新思考AI系统架构

大模型推动计算资源需求激增，需要数百乃至数千个互连的GPU和其他加速器，这意味着数据要以闪电般的速度在芯片与存储设备之间流转。

硬件利用率低、功耗飙升、成本增加等重压之下，传统互连方案越来越难以承担多模态AI系统所需的成本和吞吐量。从云计算大厂到智算基建商，都在探索新的数据中心架构设计，升级硬件和软件基础设施。

芯片巨头们已经盯上了光互连技术，以期利用光学特性突破固有瓶颈，提高AI基础设施的性能和计算效率，同时降低成本和功耗。随着更多资本涌向这一赛道，光互连商业化落地进程正在提速中。

来源：Ayar Labs，SiliconANGLE，彭博社，HPCwire

芯东西

芯东西专注报道芯片、半导体产业创新，尤其是以芯片设计创新引领的计算新革命和国产替代浪潮；我们是一群追“芯”人，带你一起遨游“芯”辰大海。

最新文章

今年芯片存储，令人忧心

国际半导体设备，对华销售大幅下滑

80岁中微尹志尧：我冻龄38岁，只持股0.7%，因为社会主义教育

苏州冲出一个全球半导体龙头IPO！市值260亿

国内光刻胶“销冠王”冲刺IPO！拟募资12亿

AI Chiplet：智能汽车芯片的新动力｜原粒半导体产品总监李红斌主讲预告

昔日明星企业破产，碳化硅市场出清加速

苏州即将冲出一个半导体IPO！北大微电子系校友创业，覆盖3nm先进制程

国内第一！广东半导体独角兽冲刺IPO，华为比亚迪都投了

刚刚，杭州CPU黑马宣布数亿元融资，在研服务器AI CPU芯片

“温州鞋王”跨界收购芯片公司！3个月净亏超1亿

公开课预告：大规模智算网络基础架构与部署规划｜新华三数据中心网络资深产品经理韦赟主讲

花几个亿建智算中心，八成的GPU租不出去

苏姿丰，刚投一位女掌门

股价狂飙560%！AI芯片新三雄疯狂造富，数据中心正在变天

安徽首富，投了两位院士

公开课预告：大规模异构GPU集群的互联、运维与调度｜基流科技技术负责人敬阳主讲

放弃IPO，她把半导体公司卖了

国产大硅片龙头IPO获受理！拟募资49亿

暴涨568%！江苏今年首个半导体IPO，两大设备龙头持股

公开课预告：大模型时代的智算GPU集群｜阿里云智能集团智算集群产品专家陈祎主讲

英伟达AMD英特尔联手，投出一家AI芯片独角兽

魏少军ICCAD演讲：痛批中国芯片设计业“内卷”乱象

谷歌最强量子芯片登场！破解30年重大难题，速度超过最快超算，马斯克惊叹

深度解读：拜登绝唱版芯片制裁方案的重点

曝英伟达台积电洽谈在美生产AI芯片

反制美国芯片，载入史册的一天！

陈立武可能接任英特尔CEO

公开课预告：OISA构建开放高性能GPU卡间互联体系｜中国移动研究院李锴主讲

美国商务部升级对华出口管制！涉及24种制造设备、3种软件工具、140家公司

突发！英特尔CEO基辛格“毕业”

关于断供7nm的调研与分析

公开课预告：针对先进封装的2.5D/3D Chiplet协同设计仿真EDA工具探讨｜硅芯科技创始人赵毅主讲

模拟芯片，日子难过

全栈“AI工厂”推动生成式AI可持续创新｜北电数智智算云负责人郭文演讲预告

日本芯片惨案

光羽芯辰创始人周强：通向个人大模型之路｜演讲预告

芯片设计公司正在工厂化

无问芯穹首席科学家戴国浩教授：软硬协同与多元异构，共筑大模型算力底座｜演讲预告

公开课预告：智算中心 AI Scale-Up 网络技术｜益思芯科技解决方案副总裁唐杰主讲

这些芯片在涨价，这些芯片在倒挂

中国芯片产业的一次底层突围，AI芯片创企勇挑RISC-V标准制定大梁

爱芯元智吴炜：多模态大模型在端侧的创新实践与挑战｜GenAICon 2024上海站演讲预告

3个月净赚近1400亿，英伟达仍为中国焦虑

国产 TPU 芯片“No CUDA”软件栈的构建实践｜中昊芯英朱国梁演讲预告

200亿，北京半导体今年最大一笔融资

AI Infra峰会同期举办，阿里云无问芯穹都来了！年度生成式AI大会上海站12月初举行

没有人能“杀死”中芯国际

倒计时2天！新思科技汽车处理器论坛集齐12位专家，全方位解读加速实现汽车SoC创新

血拼的国产CPU龙头，业绩大大不同

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉