在AI技术日新月异的浪潮中,算力作为推动数字经济发展的关键力量,正迎来全新的发展机遇。
6月25日至27日,以“AI赋能,重构未来”为主题的2024中国智算中心全栈技术大会、第5届中国数据中心绿色能源大会暨第10届中国(上海)国际数据中心产业展览会在上海盛大召开。本届大会汇聚了算力行业与能源行业的精英,共同探讨AI时代下的技术创新与未来趋势。
会上,超云产品运营中心总经理田锋发表了《智算中心全栈推理架构与GPU指导模型实践》主题演讲,对AI算力的发展趋势进行了深刻剖析。他指出,随着AI技术的迅猛发展,数据中心作为算力基础设施的核心,正经历着前所未有的变革与重构。
超云产品运营中心总经理 田锋
预见未来:
数据中心AI重构趋势与挑战
田锋强调,AI技术的普及和应用,推动了算力需求的快速增长。传统的通用算力及信创算力已逐渐转向通用AI算力和自主AI算力,以适应更加复杂多样的应用场景。同时,算力空间的重构也呈现出新趋势,从分散的机房向枢纽节点的大规模投建转变,推动了AI推理业务从中心向边缘的拓展。数据中心形态亦在不断创新,液冷与风液混合数据中心、浸没液冷数据中心等新型形态相继涌现,为算力提升提供了更加高效、环保的解决方案。
田锋进一步指出,AI新型算力的发展正推动服务器、机柜、数据中心全链条的变革。推理阶段正逐渐实现充分解耦,而训练阶段则预示着未来数据中心将成为一部大型计算机。然而,AIDC算力建设也面临着多重挑战,如业务不确定性、电力与集群能力的不匹配、散热升级需求等。为解决这些问题,构建全栈AIDC算力基础设施成为关键。
推理之巅:
更符合国内使用场景的全栈AIDC算力
在探讨国内全栈推理与国际间的差异时,田锋强调需构建符合国内实际使用场景和需求的推理生态。他以超云的产品体系为基础,从推理结构和算力产出值两个维度出发,介绍了全栈推理硬件及生态。超云的推理结构覆盖了从中心到边缘的多个层次,能够满足不同规模、不同场景的推理需求。同时,在构建算力中心时,超云综合考虑了投资回报率、成本和性能之间的平衡,为用户提供了高性能、低成本的推理机器。
田锋谈到,超云目前已完成了AI推理的全栈生态的搭建,这些推理机器不仅符合国内的实际需求,而且在性能、成本和使用便利性等方面都达到了较高的水平。当然,在某些特殊行业或场景中,可能还需要一些特殊的推理形态,但普适的解决方案已经能够满足大部分用户的需求。
超云全栈推理硬件产品
在AI算力中心投建运过程中,超云提出了“投建运分离”的新模式,强调各方应专注其擅长领域以提升整体效率。为实现资源的最优配置,超云推出了一系列工具和模型,帮助用户更好地进行AI推理全栈的规划和优化。这些工具和模型的推出,不仅有助于企业更精准地评估AI算力投资效益,也为AI技术的广泛应用提供了有力支撑。
超云为先:
引领AI算力创新
在“AI时代、绿色低碳与可持续发展”论坛中,田锋参与了圆桌环节的讨论,并就液冷技术同现场嘉宾交换了观点。他表示,风冷和液冷技术的成本对比是一个重要的考虑因素,企业在选择散热技术时,需要根据设备的实际需求和运行状况进行综合考虑。
圆桌讨论:智“算”中心,如何更大更省钱?
超云在绿色节能领域拥有深厚储备和产品能力,在大会现场展区,超云展示了多款液冷技术相关产品,这些展品不仅代表了超云在液冷技术方面的领先地位,也展示了其在AI算力基础设施领域的创新能力。
超云展位
回顾近年,超云凭借其在AI算力基础设施领域的持续创新,已为行业带来了诸多突破。今年,超云设立了“AI IN ALL”的发展战略,更加注重打造训练和推理服务器的竞争力。尤其是在推理层面,超云更是将其提升至公司战略层面,立下了“推理之巅、超云为先”的目标。
展望未来,超云将继续深化其在AI算力领域的战略布局,推动AI技术的广泛应用。7月4日至7日,超云即将亮相WAIC 2024世界人工智能大会,届时将继续展示更多AI领域的创新成果,敬请期待。
长按识别二维码 关注超云