硅谷巨头们的AI梦想正面临意想不到的尴尬局面。
据报道，微软正在重新评估其对OpenAI的硬件支持策略。这一消息引发了业内对AI基础设施投资回报的广泛讨论。
微软的顾虑：AI计算集群可能成为"昂贵的摆设"
微软作为OpenAI的重要合作伙伴，一直在为后者提供大规模的计算资源支持。然而，最新消息显示，这个科技巨头开始对这种投入产生疑虑。
modest proposal(@modestproposal1) 分享了一则重要信息：
微软已经变得更加谨慎，不愿为OpenAI支付更大规模的服务器集群费用。这家云巨头的目标是确保不会因可能在未来几十年无法产生持续收入的昂贵数据中心而亏损。
这一表态反映出微软对AI基础设施投资的长期回报存在担忧。毕竟，建设和维护这些高性能计算集群需要巨额资金，如果无法持续产生收益，将会成为沉重的财务负担。
研究人员：高性能计算资源不会闲置
然而，对于微软的担忧，一些业内人士持不同看法。
Lucas Beyer(@giffmana) 就对此表示质疑：
如果你有优秀的研究人员，计算集群在短期内闲置的情况是不会发生的。
这一观点强调了人才在AI研究中的关键作用。高水平的研究团队能够充分利用计算资源，不断推进AI技术的发展，从而确保投资的价值。
现实困境：高端GPU大量闲置
然而，现实情况似乎并不如Lucas Beyer所言那般乐观。
/(@gazorp5) 揭示了一个令人担忧的现状：
2022-2023年间，许多人借贷购买了H100 GPU，但现在这些设备都闲置了，因为他们不知道该如何使用。
这展示了当前AI硬件市场的尴尬局面：大量昂贵的高性能GPU被闲置，成为了名副其实的"昂贵摆设"。
更令人担忧的是，/(@gazorp5) 还预测：
期待一年后能在eBay上看到这些设备的甩卖，希望那些公司届时已经破产。
这一预测反映出市场对AI硬件投资过热的忧虑，同时也暗示了未来可能出现的二手AI硬件市场。
未来方向：向推理计算倾斜？
面对当前的困境，业界也在积极寻找出路。
Dan Brickley(@danbri) 提出了一个有趣的观点：
他们是否在考虑向更多的推理时计算转移，甚至将其作为一个研究方向？
随着预训练模型的成熟，是否应该将更多资源投入到模型的实际应用和推理阶段，而不是无休止地扩大训练规模？
这是一个值得深入探讨的方向。
👇
👇
👇
👇
本文同步自于知识星球《AGI Hunt》
星球实时采集和监控推特、油管、discord、电报等平台的热点AI 内容，并基于数个资讯处理的 AI agent 挑选、审核、翻译、总结到星球中。
每天约监控6000 条消息，可节省约800+ 小时的阅读成本；
每天挖掘出10+ 热门的/新的 github 开源 AI 项目；
每天转译、点评 10+ 热门 arxiv AI 前沿论文。
星球非免费。定价99元/年，0.27元/天。(每+100人，+20元。元老福利~）
一是运行有成本，我希望它能自我闭环，这样才能长期稳定运转；
二是对人的挑选，鱼龙混杂不是我想要的，希望找到关注和热爱 AI 的人。
欢迎你的加入！
