H100 算力价格暴跌 75%,对 AI 创业公司意味什么?

文摘   2024-10-19 09:46   北京  

在科技的江湖中,一场关于算力的暗战正在悄然上演。H100,这款曾经让无数AI创业者梦寐以求的神器,如今却遭遇了价格的雪崩,跌幅高达75%。这背后,究竟隐藏着怎样的秘密?让我们一起揭开这场算力价格暴跌的神秘面纱。

AI竞赛的狂潮始于2022年11月30日,GPT3.5与ChatGPT的诞生,如同一道闪电划破了夜空,照亮了AI的未来。紧接着,2023年3月21日,H100的问世,更是让这场竞赛进入了白热化。如果OpenAI能用A100创造奇迹,那么H100,这款性能提升三倍、价格翻倍的利器,是否能让你超越OpenAI,率先触及AGI的门槛?这不仅是一场技术的较量,更是一场资本的豪赌。全球的AI公司和创始人们,怀揣着万亿市场的憧憬,纷纷投入了这场竞赛。

随着H100的价格飙升,市场的热情也被点燃。英伟达在投资者会议上,以4美元/小时的价格出租H100,这无疑是一场诱人的盛宴。GPU农场主们仿佛看到了金矿,他们以4.70美元/小时甚至更高的价格出租H100,投资回报期不到1.5年。然而,这场盛宴的背后,却隐藏着一场危机。随着时间的推移,H100的价格开始出现波动,市场的泡沫开始显现。

在这场算力的盛宴中,H100 SXM GPU的成本高达50000美元,不包括电费和冷却成本。那么,它的投资回报率是多少?短期按需租赁和长期租赁,哪种模式更有利?在不同的市场价格下,H100的ROI又将如何变化?这些问题成为了投资者和创业者们必须面对的难题。

从硬件供应商到数据中心,再到风险投资基金和初创公司,每一个环节都在这场算力的游戏中扮演着关键角色。然而,随着开放权重模型的兴起,市场的需求正在发生根本性的变化。这些模型提供了更大的灵活性、可靠性和安全性,使得小型和中型模型创建者的时代似乎即将结束。

随着开放权重模型的普及,对AI推理和微调的需求也在增长。这些模型虽然在某些基准测试中略逊于专有模型,但它们提供了更大的灵活性、可靠性和安全性。这是否意味着,小型和中型模型创建者的时代即将结束?市场的天平是否已经开始倾斜?

基础模型创建市场的萎缩,对H100的需求造成了三重打击。微调比从头开始训练便宜得多,而且计算需求显著降低。此外,小型和中型基础模型的投资也在减少。这是否意味着,全球只有不到50个团队需要16个节点的H100?这场算力的盛宴,是否已经接近尾声?

大型模型创建者离开公共云平台,未使用/延迟供应的算力上线,以及更便宜的GPU替代品的出现,这些因素都在推动着算力供应的增加和训练需求的减少。这场算力的盛宴,是否已经接近尾声?市场的泡沫是否即将破裂?

在这场算力价格的暴跌中,我们看到了不同的观点。大型集群可能仍然会收取溢价,而中型到大型模型构建者可能已经通过长期租赁榨取了算力价值。然而,对于新的公共云H100集群来说,这可能是一个无利可图的市场。投资者和创业者们必须重新评估他们的策略,以适应这个快速变化的市场。

在这场算力的游戏中,投资全新的H100可能是一个亏损的决策。除非你有特殊的条件,否则,投资其他领域或股票市场指数可能会带来更好的回报。这场算力价格的暴跌,不仅是一场技术的变革,更是一场资本的博弈。在这个充满悬念的科技江湖中,谁能笑到最后,让我们拭目以待。这不仅是一场关于技术的较量,更是一场关于智慧和远见的考验。在这个充满变数的时代,只有那些能够预见未来并迅速适应变化的人,才能在这场算力的盛宴中获得最后的胜利。


前沿科技分享圈
这里汇聚了人工智能领域奋战在第一线的创业者和投资人,不同研究方向有不同的讨论小组,包括AI虚拟伴侣、AI情感咨询、人形机器人、文生视频、文生音乐、开源AI硬件等等,如果你也对这些领域感兴趣,欢迎加入!
 最新文章