报告连载 | 大模型助力 算电协同创新

企业   2024-10-24 14:40   天津  

最近,《2024数字中国万里行暨算力经济中国行考察报告》出版,我们将对报告内容开启连载模式。


PART IV 产业联动 第六章 算力能源协同,主要探讨了以下话题:


二.大模型助力 算电协同创新


面对算力集群的用电结构与未来能耗增长趋势带来的挑战,基于商汤大装置SenseCore和“日日新SenseNova”大模型体系强大的架构底座,商汤基于临港算力集群(一期)作为应用场景,在算力电力协同、调度一体化管理中不断创新。依托新片区的前瞻性能源战略部署和源网荷储一体化管理的思路,基于商汤大模型体系强大的架构底座,进行智能预测与决策,并通过生成式AI虚拟电厂实现精准、动态、实时的能源调度,参与用户侧需求响应、获取削峰填谷收益、实现绿电交易,最终降低能源费率,目标降低电力成本5%以上。


在基础设施运营层面,为实现智算中心高效用能,实现算力电力的一体化管理,商汤从以下三维维度进行统筹规划实施:


  • 电网资源侧:以源网荷储的逻辑进行整体规划,由政府统筹协调管理电网源侧、网侧整体资源,通过源网端的一体化管理实现能源源头的高效规划;用户侧主要解决负载效率的提升,通过企业参与的方式解决负荷端的应用问题;同时政府和企业共同开展储能的建设和应用,提升整体能源储备容量,丰富用能侧应用场景的灵活性。


  • 基础设施侧:整体基础设施需要综合考虑用能侧的应用场景和诉求,在算力基础设施的全生命周期践行用能侧实施方案,具体包括:在基础选址中考虑区位、气候、绿能绿电资源、区域内储能资源等因素、在实际运营过程中针对基础设施(机电系统、储能)及IT系统(服务器、网络)进行分层精细化算力运营、在软件平台中通过通过算力管理平台、任务调度平台等软件系统的应用提升基础设施用能效率。


  • 创新应用侧:除以上基础用能方案外,商汤积极践行高效用能的创新应用,包括开发和应用基于生成式AI技术,提升算力设施电力运行效率的垂类能源大模型、开发建设拉通能源-电力-机房-服务器-集群-算力全链路数据及流程整合的基础设施运营平台、应用基于数字孪生的算力电力一体化协同调度的算力驾驶舱等。


除此之外,商汤构建全生命周期标准化运维管理体系,研发了运维大模型与AI智能运维管理平台,利用数字化与智能化技术提升运营效率15%,通过动态制冷优化,实现能耗降低5%。


在算力算效管理层面,商汤基于自身实践,形成了一套实现算电一体化协同管理的算效管理方案,有效的打通了从硬件到软件、从电力到算力的应用场景,能够为算力高效输出提供有效依据。


  • 基础设施层:通过对供配电系统、温控系统及IT系统的监控,输出算力基础设施PUE值;


  • 机柜层:记录小时级机房包间、机柜用电量,以及单机柜小时级负载量;


  • GPU服务器层:通过自研软件对GPU服务器进行全维度信息管理,包括GPU卡类型、GPU卡使用属性、服务器负载率监控等;


  • 软件管理层:通过SenseCore算力云管平台及计算调度平台实现对于算力使用实际情况的有效管理和调度,包括GPU使用量、GPU使用率、实时训练/推理任务数、实时算力数等;


  • 业务运营层:通过自研软件对于GPU算力实际服务客户情况进行整盘监控,包括物料信息、客户属性、运营成本等;


基于上述不同层面的管理措施落地,商汤可以实时掌控算力利用效率,建立算力与能耗之间的逻辑关系与评估体系,形成算力电力协同调度平台的优势能力,并根据实际运行数据结合园区能耗管理、储能设备进行及时的电力资源调度,更高效的开展算电一体化管理。


在算电协同创新中,商汤大模型体系能力至关重要。商汤自研“日日新”大模型体系,针对各类能源场景(如能源调度、交易、运营等),整合科学计算大模型、气象大模型、风力发电预测模型、用电负荷预测模型、调节能力预测模型和调度决策智能模型,与生态企业合作研发广泛适用的全自主能源大模型体系。


能源大模型体系采用多模态MoE架构,基于超过4TB的行业知识文本、能源结构化数据、视觉图像、气象信息等多模态数据训练,形成700亿模型参数。在保证基础通识能力的同时,该大模型能够通过预测、决策、调度,处理复杂的能源任务,是能源行业内首个具备“分析、优化、决策、交互”等多种能力的全栈式大模型,可以满足行业客户的不同场景需求。


能源大模型通过边端能量控制器感知源网荷储资源信息,以节点“能量块”数据结构为基本单元,通过预测下一个15分钟的“能量块”数据,生成自适应的“能量系统”,针对能源场景提供分析与决策能力,并通过生成式AI虚拟电厂进行能源调度。调度过程中支持人为评估与策略调整,调度完成后自动进行策略校验,所有人为调整和校验结果将被反馈至大模型,以实现模型性能的持续调优。


往期推荐:

 报告连载 | 算力即新质生产力(一)

 报告连载 | 算力即新质生产力(二)

 报告连载 | 算力即新质生产力(三)

 报告连载 | 算力数据驱动 智能驾驶进入下半场

 报告连载 | 多模态大模型促进技术变革

 报告连载 | 智能算力赋能自动驾驶

 报告连载 | 车能路云网融合发展加速落地

 报告连载 | 算力赋能产学研 助力高校技术创新

 报告连载 | 上海交通大学:优化应用部署,关注复合型人才培养

 报告连载 | 华南理工大学:以多元化液冷实践打造高效绿色算力

 报告连载 | 中国农业大学:花小钱办大事,算力强势增长

 报告连载 | 华中农业大学:释放多元算力价值,推动交叉学科应用

 报告连载 | 中国人民大学:升级算力应用,打造“玉兰 10B”大模型

 报告连载 | 北京理工大学:提升大模型价值,“墨子”全新升级

 报告连载 | CPU大小核的三条路径

 报告连载 | Chiplet之模块化CPU

 报告连载 | GPU:合纵连横

 报告连载 | DPU:由云向智(一)

 报告连载 | DPU:由云向智(二)

 报告连载 | DPU:由云向智(三)

 报告连载 | 服务器:重构升级(上)

 报告连载 | 服务器:重构升级(下)

 报告连载 | 全栈液冷技术新突破

 报告连载 | 从专业计算到创新实践

 报告连载 | 绿色节能创新实践


扫描或者点击文末阅读原文

可下载报告电子版

如需纸质版请注明




关注

获取更多精彩内容







END





中研益企(北京)信息技术研究院有限公司(益企研究院)是面向数据中心、云计算、AI等信息科技领域最新技术和数字化应用的研究机构,长期致力于数据中心与云计算基础设施领域的新技术和新产品研究,帮助企业用户更快更好的接受新技术和新产品方案。通过研究、推广国内外领先的技术和方案,以及专业顾问、咨询等服务,降低市场和用户接受新技术、新方案的成本。在过去几年中发布的《2018中国超大规模云数据中心考察报告》《2021中国云数据中心考察报告》《算力经济时代·2023新型算力中心调研报告》《2024 数字中国万里行暨算力经济中国行考察报告》、参编的《国家“东数西算”工程背景下新型算力基础设施发展研究报告》《国家“东数西算”工程下算力服务发展研究报告》均广受业内好评。目前益企研究院已入驻多家平台,为安谋科技(Arm China)极术社区合作伙伴
看清科技,解读价值

扫描“视频号二维码”

获取更多的技术解析




E企研究院
E企研究院聚焦云计算、AI、数据中心等新技术研究,新产品解析,为厂商顾问,为用户咨询服务,降低用户接受新技术、新方案的成本。
 最新文章