GPU最多用3年 智算中心要怎么建?

科技   2024-11-01 18:36   美国  

11月1日消息,据TrendForce报道,GPU的使用年限最长为3年,其原因是GPU在AI训练和推理中承受相当大的负载,要比其他组件退化得更快。

这一结论来自于一位Alphabet(谷歌母公司)AI架构师的说法,该架构师表示,云服务提供商运行的数据中心中用于AI工作负载的GPU利用率在60%到70%之间,在这样的利用率下,GPU通常只能使用12年,即便较为理想的状态,最多也就使用3

目前这一信息的准确性暂时无法完全确认,但GPU作为算力的核心部件,如果其使用寿命较短,对于服务器架构、智算中心建设运维都将产生重要影响,需要围绕这一特征制定更为匹配的方案,GPU的商业价值需要进一步评估,算力租赁等衍生出的商业生态或许也需要重新评定,AI自身产生的效益也将受到影响。

由此可见,智算的加速到来给智算中心建设带来深刻影响,相关探讨正不断增多。为推动智算中心高质量建设,提升绿色算力供给,“多元重构 算力跃迁” 第十九届中国IDC产业年度大典(IDCC2024)算力中心建设系列论坛将于12月20日在北京·首钢园(四高炉)举办。

系列论坛分为智算基础设施建设论坛、绿色可持续建设论坛、产业生态建设论坛,将邀请设计院专家、算力服务商、集成商、方案解决商、芯片厂商、设备方等,聚焦万卡智算集群、绿色节能、液冷应用、智能运维、模块化、大模型需求、国产生态等热点话题共同探讨算力中心建设的新发展、新机遇,分享面临的挑战及相应解决方案。目前报名通道已开启,扫描以下二维码即可报名。




| 文章来源:中国IDC圈

• END• 
精品再读
16家科技大厂89个智算中心及国产化芯片构成分析
2024年9月算力中心建设月报
IDC圈一周最Hot
产业调研
《2023-2024年中国IDC行业发展研究报告》
东数西算各地进度如何?
上海如何推动智能算力集群建设?

IDC圈
中国IDC圈是国内权威的数据中心及云计算产业媒体平台,依托行业门户网站、新媒体、平面杂志、会议会展及移动端等为主体的企业级媒体矩阵,为数据中心及云计算产业上下游提供信息资讯、行业交流、品牌宣传等一站式全媒体解决方案。
 最新文章