OpenAI放弃晶圆厂计划,自研推理芯片

文摘   2024-10-30 06:30   广东  

据消息人士告诉路透社,OpenAI 正在与博通和台积电合作,打造其首款内部芯片,旨在支持其人工智能系统,同时在 Nvidia 芯片之外增加 AMD 芯片,以满足其不断增长的基础设施需求。

ChatGPT 背后的快速增长公司 OpenAI 已经研究了一系列选项,以实现芯片供应多元化并降低成本。OpenAI 考虑内部构建一切,并为建立芯片制造工厂网络(称为“代工厂”)的昂贵计划筹集资金。

根据此前报道,OpenAI CEO Sam Altman去冬季拜访远东,跟台积电、三星电子、SK海力士等企业高层会面。九名熟知讨论详情的不具名人士透露,阿特曼提出兴建36座全新晶圆厂的要求、要价高达7万亿美元,会后台积电资深高层随即把阿特曼称为”播客兄”(podcasting bro ),认为他的提案很荒谬。

最新消息显示,由于建立网络所需的成本和时间,该公司目前已放弃雄心勃勃的代工厂计划,转而计划专注于内部芯片设计工作。这些消息人士要求匿名,因为他们无权讨论私人事务。

该公司的战略首次在此详述,突显了这家硅谷初创公司如何利用行业合作伙伴关系以及内外部方法的组合来确保芯片供应并像更大的竞争对手亚马逊、Meta、谷歌和微软一样管理成本。作为芯片的最大买家之一,OpenAI 在开发定制芯片时决定从各种芯片制造商那里采购芯片,这可能会对科技行业产生更广泛的影响。

博通股价在报告发布后上涨,周二收盘上涨逾 4.5%。AMD 股价也延续了早盘的涨势,收盘上涨 3.7%。

OpenAI、AMD 和台积电拒绝置评。博通没有立即回应置评请求。

OpenAI 帮助实现了生成式人工智能的商业化,该人工智能可以对查询做出类似人类的响应,它依靠强大的计算能力来训练和运行其系统。作为 Nvidia 图形处理单元 (GPU) 的最大买家之一,OpenAI 使用人工智能芯片来训练模型,让人工智能从数据中学习,并进行推理,应用人工智能根据新信息做出预测或决策。

路透社此前报道了 OpenAI 的芯片设计工作。在当时的报道中,我们披露,熟悉该公司计划的人士透露,ChatGPT 背后的公司 OpenAI 正在探索制作自己的人工智能芯片,并且已经评估了潜在的收购目标。

路透社报道,该公司尚未决定继续推进这一计划。但据知情人士透露,至少从去年开始,该公司就讨论了各种方案来解决 OpenAI 所依赖的昂贵 AI 芯片短缺的问题。
这些选择包括打造自己的 AI 芯片、与 Nvidia 等其他芯片制造商更紧密地合作,以及在 Nvidia (NVDA.O)之外实现供应商多元化,打开新标签页。
OpenAI 拒绝发表评论。
该公司首席执行官 Sam Altman 已将收购更多 AI 芯片作为公司的首要任务。他曾公开抱怨芯片短缺,并对图形处理单元市场由 Nvidia 主导表达了担心,该公司控制着全球 80% 以上的最适合运行 AI 应用程序的芯片市场。
获得更多芯片的努力与奥特曼发现的两个主要问题有关:支持 OpenAI 软件的先进处理器的短缺,以及运行支持其努力和产品所需硬件的“高昂”成本。
自 2020 年以来,OpenAI 在其最大支持者之一微软构建的大型超级计算机上开发了其生成式人工智能技术,该超级计算机使用了 10,000 个 Nvidia 图形处理单元 (GPU)。
运行 ChatGPT 对公司来说成本非常高。根据 Bernstein 分析师 Stacy Rasgon 的分析,每个查询的成本约为 4 美分。如果 ChatGPT 查询规模增长到谷歌搜索的十分之一,则最初需要价值约 481 亿美元的 GPU,每年需要价值约 160 亿美元的芯片才能维持运营。

20人的芯片团队

据消息人士称,OpenAI 已与博通合作数月,打造其首款专注于推理的 AI 芯片。目前对训练芯片的需求更大,但分析师预测,随着更多 AI 应用程序的部署,对推理芯片的需求可能会超过它们。

博通帮助包括 Alphabet 在内的公司微调芯片设计以供制造,并提供设计的部分,帮助快速将信息传输到芯片上和芯片外。这在数以万计的芯片串联在一起协同工作的 AI 系统中非常重要。

两位消息人士表示,OpenAI 仍在确定是否为其芯片设计开发或收购其他元素,并可能与其他合作伙伴合作。

该公司组建了一支约 20 人的芯片团队,由曾在谷歌打造张量处理单元 (TPU) 的顶级工程师领导,包括 Thomas Norrie 和 Richard Ho。

消息人士称,OpenAI 通过博通与台湾半导体制造公司达成了制造能力,将在 2026 年制造其首款定制芯片。他们表示时间表可能会改变。

目前,Nvidia 的 GPU 占据了 80% 以上的市场份额。但短缺和成本上升已导致微软、Meta 和现在的 OpenAI 等主要客户探索内部或外部替代方案。

OpenAI 计划通过微软的 Azure 使用 AMD 芯片,该消息首次在这里报道,这表明 AMD 的新款 MI300X 芯片正试图在 Nvidia 主导的市场中分一杯羹。AMD 预计 2024 年 AI 芯片销售额将达到 45 亿美元,该芯片于 2023 年第四季度推出。

训练 AI 模型和运营 ChatGPT 等服务的成本很高。据消息人士称,OpenAI 预计今年的亏损为 50 亿美元,营收为 37 亿美元。计算成本,即处理大型数据集和开发模型所需的硬件、电力和云服务费用,是该公司最大的支出,这促使该公司努力优化利用率并实现供应商多元化。

消息人士补充说,OpenAI 一直对从 Nvidia 挖走人才持谨慎态度,因为它希望与它仍致力于合作的芯片制造商保持良好的关系,尤其是在使用其新一代 Blackwell 芯片方面。

Nvidia 拒绝置评。

定制芯片时代

发自己的人工智能芯片的努力将使 OpenAI 跻身 Alphabet 以及亚马逊等少数大型科技公司之列。这些公司试图掌控对其业务至关重要的芯片的设计。

目前尚不清楚 OpenAI 是否会继续向前推进定制芯片的计划。业内资深人士表示,这将是一项重大战略举措,需要巨额投资,每年的成本可能高达数亿美元。即使 OpenAI 投入资源,也不能保证成功。
收购一家芯片公司可以加速 OpenAI 打造自己的芯片的进程——就像亚马逊在 2015 年收购 Annapurna Labs 一样。
据一位熟悉 OpenAI 计划的人士透露,OpenAI 已经考虑过这一路径,并对潜在的收购目标进行了尽职调查。
OpenAI 审查的采购对象公司的身份目前尚不清楚。
即使 OpenAI 继续推进定制芯片计划(包括收购),这一努力也可能需要数年时间,导致该公司依赖于 Nvidia 和 Advanced Micro Devices 等商业供应商。
一些大型科技公司多年来一直在开发自己的处理器,但成果有限。据路透社报道,Meta定制芯片的努力遇到了很多问题,导致该公司放弃了部分人工智能芯片。Facebook 所有者目前正在开发一种可以覆盖所有类型人工智能工作的新型芯片。
OpenAI 的主要支持者微软还在开发一款定制的人工智能芯片,OpenAI 正在测试这款芯片。这些计划可能预示着两家公司之间的距离将进一步拉大。
自去年推出 ChatGPT 以来,对专用 AI 芯片的需求飙升。专用芯片或 AI 加速器是训练和运行最新生成式 AI 技术所必需的。Nvidia 是少数几家生产实用 AI 芯片并占据市场主导地位的芯片制造商之一。

芯视点
讲芯片的故事 ,我们是认真的!
 最新文章