世界地球日,蚂蚁工程师 TechNode 分享绿色计算实践

财富   2024-04-23 12:31   甘肃  

通用人工智能(AGI)时代的到来,将带来一场生产力的革命,推动产业数字化深入发展。然而实现这一能力所需要的智能算力,也将出现井喷式增长,这也意味着消耗地球上的更多资源。

推动可持续的人工智能,通过技术创新实现算力资源利用率最大化,实现数字化与绿色化协调发展,这是当下全球科技从业者们在思考和解决的问题,我们也是探索者之一。在今年的“世界地球日”,蚂蚁集团基础技术设施负责人余锋在科技媒体 TechNode 上发文,分享对 AGI 时代下“绿色计算”的思考。
以下是全文内容:
现代计算机科学的发展,以人类不停逼近计算效率的边界为注脚:新技术带来创新应用—数字服务普及——超级平台涌现——流量指数级增加——能耗和成本增长——基础技术进化——计算效率升级。过去 20 多年间,全球科技行业大致处于这样的循环中。
一些人认为,通往 AGI 的路上,这个循环可能会被打破。根据国际能源机构的报告预测,全球数据中心 2022 年耗电量约 460 太瓦时,2026 年可能超过 1000 太瓦时,相当于日本整个国家的全年用电量。那么,一个 AGI 的未来是否要以牺牲地球作为代价?
我认为不能以今天的能力来评估明天的挑战,但昨天的实践可以为今天提供启发和一些信心。我在 2000 年左右进入互联网科技行业,从那时至今,行业前后历经了以大型机、小型机、分布式架构和云计算等为主导的时代。
每一次的迭代,都是软硬件技术共同作用,提高计算效率的演进历史,也是拓宽数字服务可及性的过程。但不变的是,不管业务需求如何变化,计算方式如何变化,但是对更低能耗、更高效率的计算没有变过。在不同的阶段,通过技术实现算力投入与收益间的最大平衡,也就形成了“绿色计算”的实践。
绿色计算,本质是以技术驱动商业可持续的过程。在通往 AGI 的路上,能源消耗指数级增长已成为“房间里的大象”,但是我认为科技行业已经充分认识到严峻性,并正如以往一样,也一定会倒逼新的软件和硬件创新。而过去的创新,往往也是在看似不可能的挑战下出现的。
以蚂蚁集团为例,2010 年“双 11”,面对海量的支付峰值,支付处理服务离崩溃只差 4 秒,这逼着我们告别小型机时代,开始部署分布式架构,以提高计算效率;到 2021 年的“双 11,我们已经规模化应用“绿色计算”技术,通过在离线混合部署技术、云原生分时调度和 AI 弹性容量等技术,CPU 服务器利用率同比 2019 年提高了 2 倍多。作为其中一个技术人员,从在项目室严阵以待,到喝着可乐过“双 11,这可能就是那些年最大的变化。
2022 年,蚂蚁集团通过绿色计算技术

帮助供应链上游的数据中心持续提升减排能力

智能算力时代,全行业面临着不同量级的能耗挑战,这一点我们也有切身的体会。就如“双 11一样,大规模应用是技术最好的练兵场。作为支付宝的传统春节活动,2024 年五福节成为我们在智算时代第一次大规模的绿色技术实践。
2024 年五福节引入了多款基于大模型的互动体验,12 天内吸引了 6 亿人次的互动。要实现大模型的规模化应用同时控制算力成本,不仅需要硬件性能的持续优化,还必须通过软硬协同、算法提效来寻找突破。目前蚂蚁建设了超过万卡的异构集群,其中硬件算力效率(HFU)超过 60% ,集群有效训练时长占比 90% 以上,RLHF 训练在同等模型效果下训练吞吐性能相较于业界方案提升 3.59 倍。
在这个初步实践的过程中,我们有两点启发:
  • 在智算时代,企业在第一天就要把绿色计算体系纳入战略规划,技术基础设施不再是“打补丁”或者渐进改良,而将进行一次重构。过去那种“让业务先跑起来,再来考虑能耗”已经不再可行,越早意识到这一点的企业,就将拥有先发优势。
  • 绿色计算不再是大公司的专属配套。过去有一种观点是,由于计算成本与规模成正比,因此大型公司推动绿色计算的需求更强烈,而中小型公司并不迫切。然而,在智算时代算力的高昂成本,让不同规模、类型的公司,都必须要把节能减排作为核心指标之一。然而绿色计算有门槛,中小型公司的研发经费有限,因此我们认为未来会形成绿色计算市场,为企业提供产品和服务。
展望未来,全球产业数字化不断深入,要解决一个三角问题:即实现数据在产业间安全流转、隐私保护、以及商业可持续。在这样的挑战下,我们认为,未来智算时代将进入密态计算时代,即数据将以密态形式进行跨云、跨地域和跨行业的流转、融合和计算。这意味着更复杂的计算和更高的算力,因此低成本密态计算势在必行,让数据价值的流动像自来水一样即开即用。
从过去的通算时代、现在的智算时代,到未来的密算时代,建立绿色高效的算力体系是科技行业的共同目标。我们认为,软硬件结合的核心技术突破是破题的关键,最终实现算力、存储和网络三者间最优平衡;以数据驱动的组织管理方式,提高科学管理的能力,让企业实时掌握“碳账单”,并针对性得进行优化;积极参与开源与合作,推动绿色计算技术普及和应用,与行业共同发展。
发展中出现的问题,只能在发展中解决。同样,科技进步带来的能源消耗问题,只能从技术层面来根本性地解决。当我们自问要给后代留下一个怎样的地球,当我们要回答孩子们技术是否真能带来美好的未来时,我们这代技术人的努力有了更宏观的意义。

| 往期相关内容

蚂蚁集团
我们努力,为世界带来微小而美好的改变
 最新文章