惊爆!H100 GPU租价狂跌至2美元/小时,泡沫破裂的前奏?

文摘   2024-10-14 23:26   北京  

在人工智能的辉煌舞台上,一场前所未有的智力竞赛正在悄然上演。2022年11月30日,GPT3.5与ChatGPT的横空出世,如同一颗璀璨的星辰,照亮了AI的未来。2023年3月21日,NVIDIA H100的问世,更是让这场竞赛进入了白热化。如果OpenAI能用A100创造奇迹,那么H100,这个性能高出三倍、价格贵出两倍的新贵,是否能让你超越OpenAI,率先触及AGI的门槛?这不仅是技术的较量,更是财力的比拼。谁能成为第一个实现这一壮举的AI公司,谁就能在新AI经济中占据一席之地,财富之巨,足以匹敌半个地球的国家,甚至历史上的任何王国。

怀着这样的渴望,无数资金涌入AI公司和创始人的口袋,推动着科技革命的浪潮。H100的需求激增,市场价飙升,租赁价格从4.70美元/小时起跳,实际价格甚至超过了8美元/小时。创始人们纷纷涌入,急于训练他们的模型,以说服投资者进行下一轮亿级美元的融资。英伟达在2023年的投资者会议上,向他们的投资者和数据中心客户推介了以4美元/小时的价格出租H100的“市场机会”。对于GPU农场来说,这感觉像是不劳而获的钱——如果你能让这些创始人以4.70美元/小时或更高的价格租用你的H100 SXM GPU,甚至让他们提前支付,投资回报期将少于1.5年。从那以后,每个GPU每年将带来超过10万美元的现金流。由于GPU需求似乎没有尽头,他们的投资者同意了,甚至进行了更大规模的投资……

然而,随着时间的推移,情况开始发生了变化。2024年初,H100的价格在多个供应商那里降至大约2.85美元/小时。随着更多供应商的加入……市场开始出现了供过于求的现象。H100从去年的8美元/小时到现在多家算力转售商以低于2美元/小时的价格出租。这究竟是怎么回事?

在这场AI的盛宴中,GPU市场的未来走向成为了一个悬念。Eugene Cheah,AI推理服务供应商Featherless.AI的联合创始人,也是RWKV开源基础模型项目的联合负责人,他深入研究了H100市场,可能为即将到来的Blackwell芯片的未来走向提供一些参考。他指出,由于预留计算资源的转售、开放模型的微调以及基础模型公司的减少,市场上的H100算力已经供过于求。经过深度分析后,他建议用户在需要时租用而不是购买算力。

但这场GPU的泡沫,是否即将破灭?随着数十亿美元投入到AI基础设施层,这会促进AI上层的繁荣还是泡沫?现在,是时候深入探讨GPU市场的时候了。本文将带你一探究竟,揭开这场AI竞赛背后的经济逻辑和市场动态,带你走进一个悬念丛生、环环相扣的AI世界。

让我们回到那个充满希望的起点,当AI的潜力被无限放大,每个参与者都梦想着成为新时代的领航者。他们投入了巨额资金,构建了强大的计算中心,只为了在这场竞赛中占据先机。然而,随着时间的推移,市场的变化开始显现。H100的价格开始下滑,从最初的天价逐渐降至冰点。这不仅仅是价格的变动,更是市场供需关系的转变。

为什么会出现这样的情况?首先,随着更多的供应商加入市场,竞争加剧,价格自然下降。其次,随着开放模型的微调和优化,许多公司发现,他们不再需要从零开始训练大型模型,而是可以通过微调现有的开放模型来满足需求。这大大降低了对H100这类高端GPU的需求。再者,一些大型模型创建者开始离开公共云平台,转而构建自己的计算集群,这也减少了对现有集群的依赖。

在这样的背景下,H100的价格战愈演愈烈。一些算力转售商开始以低于2美元/小时的价格出租H100,这比英伟达预测的价格低了一半以上。这不仅让市场感到震惊,也让那些早期高价购买H100的投资者感到不安。他们开始担忧,自己的投资是否能够收回成本,甚至是否会出现亏损。

这场GPU的泡沫,似乎正在逐渐破裂。但是,这是否意味着AI的黄金时代已经结束?并非如此。相反,这可能是一个新的开始。随着H100价格的下降,更多的开发者和公司能够负担得起这样的高端计算资源,这将推动AI技术的进一步发展和创新。同时,这也为那些寻求高性价比的投资者提供了新的机遇。

在这场AI的竞赛中,每个人都在寻找自己的定位。有的人选择了退出,有的人选择了坚持。但无论如何,这场竞赛还远未结束。随着技术的不断进步和市场的不断变化,新的机遇和挑战将不断出现。而我们,作为这场竞赛的旁观者,也将见证AI技术如何改变我们的世界。




前沿科技交流群


前沿科技分享圈
这里汇聚了人工智能领域奋战在第一线的创业者和投资人,不同研究方向有不同的讨论小组,包括AI虚拟伴侣、AI情感咨询、人形机器人、文生视频、文生音乐、开源AI硬件等等,如果你也对这些领域感兴趣,欢迎加入!
 最新文章