算力租赁崩了吗?

文摘   科技   2024-10-14 22:38   中国香港  
我们的新书正在发售,老铁们帮我们带带货吧!
很多人问最近算力租赁价格崩了的事情,因为在出差就简单聊聊。
CSP无论是AWS还是Coreweave,算力租赁的价格从去年底到现在就一直在跌,这里长约的重要性远远高于短约,长约价格你们也爬不到。跌的很有规律,每个月也幅度接近,一直到H卡供给Scale Down都会跌。不是突然大跌的说法,已经跌了快一年了。过去是价格太高了,现在是跌到正常价格,对应AWS其ROA看的话GPU和CPU基本一致。再往后跌,就会低于CPU,但因为多数签的3年长约,拉到时间加权维度,还是差不多。
价格也不是公众号提到的价格计算方式。AWS也有长约、ondemand和spot三种计价,后面两种很贵(2-3x),拉平后价格也比长约的价格高。到了Coreweave这种公司,定价更是有各种方法,超过长约用量就double价格,还有进行更大幅度的超卖,都会拉高平均价格。
相比价格,看搭建新集群情况、利用率、退卡率或者短租比重更重要。现在GPU的短租比重仍然远低于CPU。不过最近确实看到了短租比重的提高,也对应ondemand价格变化,但仍然远低于CPU。

欢迎与我们咨询联系,详细的算力租赁长短约价格、比重、利用率等关键情况,以及各家商业模式情况。




我们正在发售一篇报告,其内容是:

  • 特斯拉Robotaxi与FSD的Scaling Law

尚有数篇报告正在调研中,其内容是:

  • AI客服的进展与影响:NICE、FIVN、NOW

  • AI咨询行业:PLTR、AI、ACN

  • ASIC调研与技术趋势

  • 季度调研系列:META、MSFT、AMZN、AAPL、NVDA

我们已经发售了九篇报告:

  • 算力需求场景测算

  • AI与GPU在META中的应用

  • 微软Copilot进展、GenAI售卖场景以及如何影响公有云选择

  • 北美算力租赁厂商近况及供需平衡情况

  • 互联技术以及未来发展趋势

  • 国数据中心与电力情况

  • 2Q24季度调研:META与MSFT

  • AI手机

  • 草莓与前沿大模型进展

除了报告外,我们也承接定制化的投研需求。

对报告感兴趣,有定制化投研需求,或者对我们的日常调研纪要(每月超过50篇AI调研纪要)感兴趣的请联系下面的久谦销售同事,或者点击共识粉碎机底栏菜单页的投研服务:



OpenAI o1模型十问十答


NV大涨与RL自己的Scaling Law


共识粉碎机
寻找与共识的不同
 最新文章