首页
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
更多
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
花几个亿建智算中心,八成的GPU租不出去
科技
2024-12-23 12:03
北京
智算中心机房的出租率普遍在20%-30%之间,有些企业级智算中心甚至只有10%。
作者 |
邱晓芬
编辑 |
苏建勋
来源
|
智能涌现(ID:AIEmergence)
在过去两年的中国AI行业,有一项奇观:
许多没有任何GPU背景、算力行业经验的上市公司,将智算中心当做他们发展第二曲线的抓手,筹谋向AI领域转型——比如,生产味精的公司(莲花控股)、造染料的公司(锦鸡股份)、甚至还有博彩行业的玩家(鸿博股份)等等。
但到2024年年底,情况出现了变化。11月29日,莲花控股公告称,他们近7个亿的GPU服务器采购合同,只交付了12台,剩余的318台因为“存在不确定性”,决定终止合同——一台英伟达H800服务器210万元,布局智算中心转型的今年前三季度,这家公司营收了5500万。
不仅仅是莲花控股,近期还有不少上市公司公告称,决定暂停、或者取消原定的智算中心建设项目,不惜顶着合同违约的风险。
在行业对AI预期高涨的两年来,国内的智算中心建设可谓疯狂——截至今年上半年,国内算力规模达到246 EFLOPS,智能算力同比增速超过65%,
工业、教育、医疗、能源等多个领域算力应用项目超过1.3万个
。
这些上市公司在一波智算中心建设热潮中,扮演的角色不尽相同,有的选择简单粗暴的出钱参与投建,有的选择出设备(比如GPU/软件解决方案/算法模型),也有的从更轻巧的方式介入,帮助算力中心提供运营服务。
从两年前的趋之若鹜,到如今由热转冷,国内的智算中心发生了什么?
01
.
一笔艰难的账
有多位智算中心人士近期走访国内各大智算中心时,惊叹于当前行业现状。他们不约而同向《智能涌现》表示,目前国内的算力中心市场陷入沉寂。
“目前看下来,
机房的出租率普遍在20%-30%之间,有些企业级
智算中心
甚至只有10%左右
”,一位行业人士表示。
从纯商业的角度,这并不是一个健康的状态。一位行业人士向《智能涌现》拆解了一个智算中心的成本构成——
以一个英伟达H100构成的千卡集群智算中心为例,前期投入成本为:
购买算力设备约3亿;
网络设备成本约2.5千万;
存储和安全设备成本约1千万;
平台软件和液冷改造成本约1千万;
共计约3.5亿元的总成本。
而智算中心不仅仅在前期需要投入重资产,后续运转过程中,还要投入日常的电力、维护、人员费用等等,经测算,每年的支出大概在五千万元左右。
也就是说,
在国内搭一个千卡集群规模的小智算中心,前期要支付3.5亿硬成本,每年还要掏五千万元去支撑运转。
而这些智算中心建成之后,算力输送给谁?怎么赚钱?
目前,国内厂商解决AI算力的方式是:大互联网公司、弹药充足的AI公司、以及细分赛道的龙头企业,一般基于安全考虑,搭建自己的智算中心。而其他大部分需要AI算力的公司,基本选择向第三方智算中心租赁算力的模式。
另外,这些智算中心也会为在前三类玩家需要的情况下,为其补充部分算力,应对不时之需。
近两年来,智算中心建设热情,一部分源于,虽然成本高昂,但好在有政府补贴缓解。最近两年,各地出台了多种多样的政策支持智算中心的建设,
资金补贴、税收优惠、土地供应
等等。
比如,有地方政策提示,当项目总投入在1亿以上时,将以实际投资额5%-15%不等的比例进行补贴。在有些风/光资源丰富的省份,还会对于投建智算中心的企业,赠与多余的光伏指标。
一位行业人士概括,各地对于智算中心建设的支持政策,是需要“
一地一议
”的程度。
不过,补贴毕竟不在商业范畴,白花花的银子建起智算中心后,钱后续能不能回笼,主要与实际运作之后能
租出去多少卡(也就是机房利用率)、以及租赁价格挂钩
。
而在目前,这两项数据并不乐观。《智能涌现》在不久前的文章指出,一台英伟达H100服务器(8卡)的租赁价格,从年初的12-18万元/月,
降到目前的7.5万元/月,降幅在50%左右
。
如果以当前机房利用率20%来计算,一个英伟达H100千卡集群智算中心每年的营收仅有2300万元( 即7.5 万元/月✖12 个月✖128 台服务器✖20%)——也就是说,一个算力中心就算勉强维持经营,结果基本
只能覆盖正常运营成本的一半
,更谈不上把前面的重资产收回本。
投建智算中心,当下是一笔艰难的账。
02
.
1.3万个算力中心,苦等回血
多位行业人士向《智能涌现》表示,智算中心当前出现严重闲置的情况,核心原因在于,算力中心投入应用之后,大家发现AI需求并未如预期般快速增长,算力难以消纳。
“此前大家预计,国内的算力租赁市场每年至少有10%增长,结果目前看来,只有5%左右”。
因此,目前各个智算中心的目标都是覆盖运营成本,“
回
本甚至是最高标准、长远的理想
”。一家智算中心产业链公司「智伯乐科技」CEO岳远航告诉《智能涌现》,经他们测算之后发现,一个智算中心纵使设备出租率涨到60%,至少还要花上7年以上才能回本。
除了AI需求没有如预期般出现之外,智算中心闲置,本质上与其存在一定滞后性有关。
比如,一些智算中心在设计研究的时候,一般是根据当下的市场需求、以及硬件情况去设计。而等到真正落地时,一般已经过去了几个月甚至数年——而此时,
硬件产品可能已经迭代好几轮了,甚至市场需求也已经出现了剧变。
为了尽可能降低日常运营成本,目前一些智算中心各自采取了措施。
有的智算中心
直接关停
租不出去的设备,“走进去机房里,发现灯都关了,也没有了嗡嗡的风扇散热声音”,岳远航表示。另外,也有的智算中心选择直接
变卖英特尔、英伟达的旧设备
,尽量缓解资金压力。
对于一些还没建设完毕的智算中心,有的企业选择
暂停了建设中的项目
,或者直接取消了规划里的二期项目。一位行业人士甚至《智能涌现》表示,因为智算中心项目中途暂停,导致其此前斥资千万高价购买的英伟达卡“砸手里”了。
显然,算力市场正在悄然转变为买方市场。在过去两年,如果说行业里是“一芯难求”、“算力难求”的情况,到如今则完全反过来。
目前大部分AI公司更加倾向于节约算力,避免不必要的成本支出,一般都会根据需求和预算选择合适的算力资源,
比如要求更低的优惠价格、以及更优质的服务。
一些智算中心为了维持算力销售,争取市场份额,
也不惜采用降价、或者提高服务(比如提高运营能力,帮下游优化模型等等)等方式来吸引下游用户。
算力作为水电煤一般的存在,牢牢掌握住了AI行业的命脉,尤其是在国际形势并不明朗的当下。尽管算力中心在当前阶段是一笔艰难的帐,但我们也很难粗暴得出不应再建设的结论。
对于长远,有行业人士抛出了一个问题——
“AI算力消纳不了或许只是短期现象,你是现在暂时让算力中心闲置着好?还是等到未来AI应用爆发了,你再匆忙上马建设算力中心好?”
本文作者邱晓芬,首发于公众号“智能涌现”(ID:AIEmergence),直击AI新时代下涌现的产业革命,36氪旗下账号。
芯东西
芯东西专注报道芯片、半导体产业创新,尤其是以芯片设计创新引领的计算新革命和国产替代浪潮;我们是一群追“芯”人,带你一起遨游“芯”辰大海。
最新文章
今年芯片存储,令人忧心
国际半导体设备,对华销售大幅下滑
80岁中微尹志尧:我冻龄38岁,只持股0.7%,因为社会主义教育
苏州冲出一个全球半导体龙头IPO!市值260亿
国内光刻胶“销冠王”冲刺IPO!拟募资12亿
AI Chiplet:智能汽车芯片的新动力|原粒半导体产品总监李红斌主讲预告
昔日明星企业破产,碳化硅市场出清加速
苏州即将冲出一个半导体IPO!北大微电子系校友创业,覆盖3nm先进制程
国内第一!广东半导体独角兽冲刺IPO,华为比亚迪都投了
刚刚,杭州CPU黑马宣布数亿元融资,在研服务器AI CPU芯片
“温州鞋王”跨界收购芯片公司!3个月净亏超1亿
公开课预告:大规模智算网络基础架构与部署规划|新华三数据中心网络资深产品经理韦赟主讲
花几个亿建智算中心,八成的GPU租不出去
苏姿丰,刚投一位女掌门
股价狂飙560%!AI芯片新三雄疯狂造富,数据中心正在变天
安徽首富,投了两位院士
公开课预告:大规模异构GPU集群的互联、运维与调度|基流科技技术负责人敬阳主讲
放弃IPO,她把半导体公司卖了
国产大硅片龙头IPO获受理!拟募资49亿
暴涨568%!江苏今年首个半导体IPO,两大设备龙头持股
公开课预告:大模型时代的智算GPU集群|阿里云智能集团智算集群产品专家陈祎主讲
英伟达AMD英特尔联手,投出一家AI芯片独角兽
魏少军ICCAD演讲:痛批中国芯片设计业“内卷”乱象
谷歌最强量子芯片登场!破解30年重大难题,速度超过最快超算,马斯克惊叹
深度解读:拜登绝唱版芯片制裁方案的重点
曝英伟达台积电洽谈在美生产AI芯片
反制美国芯片,载入史册的一天!
陈立武可能接任英特尔CEO
公开课预告:OISA构建开放高性能GPU卡间互联体系|中国移动研究院李锴主讲
美国商务部升级对华出口管制!涉及24种制造设备、3种软件工具、140家公司
突发!英特尔CEO基辛格“毕业”
关于断供7nm的调研与分析
公开课预告:针对先进封装的2.5D/3D Chiplet协同设计仿真EDA工具探讨|硅芯科技创始人赵毅主讲
模拟芯片,日子难过
全栈“AI工厂”推动生成式AI可持续创新|北电数智智算云负责人郭文演讲预告
日本芯片惨案
光羽芯辰创始人周强:通向个人大模型之路|演讲预告
芯片设计公司正在工厂化
无问芯穹首席科学家戴国浩教授:软硬协同与多元异构,共筑大模型算力底座|演讲预告
公开课预告:智算中心 AI Scale-Up 网络技术|益思芯科技解决方案副总裁唐杰主讲
这些芯片在涨价,这些芯片在倒挂
中国芯片产业的一次底层突围,AI芯片创企勇挑RISC-V标准制定大梁
爱芯元智吴炜:多模态大模型在端侧的创新实践与挑战|GenAICon 2024上海站演讲预告
3个月净赚近1400亿,英伟达仍为中国焦虑
国产 TPU 芯片“No CUDA”软件栈的构建实践|中昊芯英朱国梁演讲预告
200亿,北京半导体今年最大一笔融资
AI Infra峰会同期举办,阿里云无问芯穹都来了!年度生成式AI大会上海站12月初举行
没有人能“杀死”中芯国际
倒计时2天!新思科技汽车处理器论坛集齐12位专家,全方位解读加速实现汽车SoC创新
血拼的国产CPU龙头,业绩大大不同
分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
原创标签
时事
社会
财经
军事
教育
体育
科技
汽车
科学
房产
搞笑
综艺
明星
音乐
动漫
游戏
时尚
健康
旅游
美食
生活
摄影
宠物
职场
育儿
情感
小说
曲艺
文化
历史
三农
文学
娱乐
电影
视频
图片
新闻
宗教
电视剧
纪录片
广告创意
壁纸头像
心灵鸡汤
星座命理
教育培训
艺术文化
金融财经
健康医疗
美妆时尚
餐饮美食
母婴育儿
社会新闻
工业农业
时事政治
星座占卜
幽默笑话
独立短篇
连载作品
文化历史
科技互联网
发布位置
广东
北京
山东
江苏
河南
浙江
山西
福建
河北
上海
四川
陕西
湖南
安徽
湖北
内蒙古
江西
云南
广西
甘肃
辽宁
黑龙江
贵州
新疆
重庆
吉林
天津
海南
青海
宁夏
西藏
香港
澳门
台湾
美国
加拿大
澳大利亚
日本
新加坡
英国
西班牙
新西兰
韩国
泰国
法国
德国
意大利
缅甸
菲律宾
马来西亚
越南
荷兰
柬埔寨
俄罗斯
巴西
智利
卢森堡
芬兰
瑞典
比利时
瑞士
土耳其
斐济
挪威
朝鲜
尼日利亚
阿根廷
匈牙利
爱尔兰
印度
老挝
葡萄牙
乌克兰
印度尼西亚
哈萨克斯坦
塔吉克斯坦
希腊
南非
蒙古
奥地利
肯尼亚
加纳
丹麦
津巴布韦
埃及
坦桑尼亚
捷克
阿联酋
安哥拉