首页
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
更多
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
人大北航新算法登Nature子刊:破解复杂时空物理场重建难题
科技
2024-12-09 18:03
北京
孙浩团队与杨立军团队合作发文,提出预测复杂系统的新方法。
中国人民大学高瓴人工智能学院长聘副教授孙浩团队与北京航空航天大学杨立军教授团队合作,近日在Nature子刊Nature Machine Intelligence(《自然-机器智能》)发表题为“Learning spatiotemporal dynamics with a pretrained generative model”的文章,提出了一种基于扩散生成模型的动态系统预测算法,称
为
S
3
GM
(Sparse-Sensor-assisted Score-based Generative Model)。
该方法融合了物理先验知识与实验测量数据,旨在解决现代科学与工程中的一大关键挑战:
从稀疏的传感器测量数据中重建复杂的时空物理场
。
研究团队展示了
S
3
GM
即使在数据极为不完整和有噪声的情况下,也能够准确预测燃烧、流动、气候演变及其他众多物理系统的动态过程,为动力系统建模提供了新的思路。
文章共同第一作者为李泽宇(北航)、韩旺(北航),共同通讯作者为孙浩(人大)、邓岳(北航)、杨立军(北航)。
论文链接:
https://www.nature.com/articles/s42256-024-00938-z
这是人大高瓴人工智能学院师生团队在《自然-机器智能》发表的第二篇论文。此前,孙浩团队已在《自然-机器智能》刊发题为“Encoding physics to learn reaction-diffusion process”的论文(Nature Machine Intelligence, 2023, 5: 765-779)。
如何从稀疏的传感器测量数据中重建复杂的时空物理场是现代科学与工程中的一大关键难题。
比如,航空航天发动机测试中,传感器的数量、类型、分布以及测量信噪比等往往非常有限,难以获取发动机内部完整的物理过程。传统重构方法难以对复杂的动力学进行精确重构,而现有的深度学习方法在面对不同的传感器配置时往往难以泛化。
为了解决这一难题,研究团队提出了一种基于扩散生成模型的动态系统预测算法,称为
S
3
GM
。S
3
GM模型分为两个阶段(图1):
图1 用
S
3
G
M建模动力系统的示意图。
S
3
G
M
模型分为预训练(子图c)和生成(子图d)两个阶段
在第一阶段,
S
3
GM
在通过物理先验知识获取的时空数据上进行基于扩散模型自监督预训练,联合建模系统状态变量和参数之间的复杂动力学关系,并通过时空分离的注意力机制来减缓算力消耗。
在第二阶段,利用预训练的扩散模型作为先验,结合稀疏的传感器数据进行后验采样来对动力系统进行重建和预测。为了生成满足观测的动力系统随时间演化的状态变量和参数,模型将完整的待重构序列分为两段子序列,其中一段直接依赖于观测数据而另一段为外推序列(不直接依赖于观测数据)。
对于依赖于观测数据的子序列,
S
3
GM
并行生成多个样本,并通过添加观测一致性和序列一致性约束来生成连续帧;对于不直接依赖于观测数据的子序列,
S
3
GM
采用自回归形式逐段生成以保证最优的效果。这种后验采样的方法不仅可以处理各种不同的传感器分布、类型等,还可以处理任意长的时间序列。
图2 Kuramoto-Sivashinsky系统的重构与预测。上、中、下三行代表模型在三种不同的观测类型下的重构/预测结果
研究人员在多个不同的物理系统上验证了
S
3
GM
的有效性,结果囊括了反应扩散系统(图2)、湍流系统以及真实的气候观测数据(图3),在每个例子中测试了各种不同的观测数据形式(包含任意时空分布的稀疏测量、统计量测量以及未来时刻预测等),
S
3
GM
可以根据相应的观测信息对动力系统的状态变量和参数进行有效重构而无需重新训练。
这意味着
S
3
GM
相比于传统的端到端训练方式不仅泛化能力更好,而且面对高稀疏性以及噪声数据具有更好的鲁棒性。
图3 湍流流场重构结果展示。相较于其它方法,
S
3
G
M
拥有更低的重构误差,并且更能够满足湍流场的统计指标(湍流能谱)
此外,
S
3
GM
利用仅在仿真数据上预训练的模型,成功从真实流场的极稀疏测量数据中重构出流场信息(图4),证明了该模型即使在极端数据稀疏和噪声条件下的泛化能力和鲁棒性。
图4 利用实验室测量的稀疏数据重构完整流场。子图a为实验装置图、子图b表示测量数据仅从流场单一截面处获取,而子图c和d展
示
了
S
3
G
M
重构的结果
“
S
3
GM
从有限的、有噪声的数据中进行泛化的能力,使其成为在数据收集具有挑战性的现实场景中的强大工具
,
”团队研究人员称,“该模型为我们提供了一种理解和预测自然界与工程复杂系统的新方法”。
研究人员计划进一步优化该模型的计算效率,并探索其在更具挑战性的动力系统中的应用。
这一工作为利用预训练生成模型来改善小数据条件下对高度复杂动力学的预测奠定了基础,为推进科学理解和技术发展提供了新的可能性。
本研究工作获得国家自然科学基金委(重大科研仪器研制项目、重点项目、重大研究计划培育项目、面上项目)以及国家重点研发计划的支持。
智东西
智能产业新媒体!智东西专注报道人工智能主导的前沿技术发展,和技术应用带来的千行百业产业升级。聚焦智能变革,服务产业升级。
最新文章
OpenAI最强推理模型o3发布!AGI测试能力暴涨,最难数学测试分数碾压同行
专用、类人形、人形全面布局:普渡机器人解答了具身智能商业化的终极命题
比小米便宜,比Meta高清,国内首款量产AI眼镜999元开售
AI创企暴雷!90后女创始人欺诈被捕:涉案7000万,或面临40年刑期
苹果AI落地中国生变:正接触腾讯和字节,谁还有机会
深圳重磅AI利好!5亿元训力券,1亿元模型券,重奖爆款智能硬件产品
一口气融728亿!AI融资新纪录,比OpenAI还吸金,华人联合创办
黄仁勋深度专访:谈英特尔CEO下课,回应美国半导体管制,用AI写演讲稿
24万“AI民工”血汗,哺出一个95后亿万富豪
深圳教授联手三星高管押注具身智能!被联想创投等看中了
清华系大模型独角兽又融资,30亿元!今年商业化收入翻倍
学校新来的AI体育老师,量身定制每天一小时最合理运动计划
NVIDIA RTX™ 5880 Ada 性能解析与私有化大模型部署|在线研讨会直播预告
清华系出手!全球第一款端侧全模态理解模型开源
国产AI算力黑马崛起,解密英博云全新产品矩阵
XR一夜变天,谷歌“重做安卓”!三星MR头显亮牌,硬刚苹果
2024 ACL Fellow出炉!全球九位科学家入选,华人有四位
后Scaling Law时代,需要一份向量数据库的琅琊榜
趣丸科技贾朔:探索音乐创作的技术平权——AI音乐的创新实践
谷歌最强大模型登场!掀Agent风暴,放AI芯片大招,深夜突袭OpenAI
让手机、PC、汽车、AIoT等“终端”都用好AI,搞定统一生态这事太重要了
靠欺骗AI,他们提走40万元
清华系大模型,又拿数亿元融资!
投影技术的第三次革命!从3LCoS到全产业链蜕变
Sora上线挤爆服务器!1个视频3块钱,网友已玩疯,实测对比可灵海螺
最新国内AI手机排行榜,让人有点破防
人大北航新算法登Nature子刊:破解复杂时空物理场重建难题
杨植麟终于回应,承认张予彤身份!朱啸虎还击:回避了所有关键问题
2024中国生成式AI大会上海站圆满收官,第二日AI Infra峰会演讲精华一文看尽
探访棋坛巅峰赛事:大模型体验区火爆,AI拉满存在感
最强OpenAI o1深夜发布!至尊版套餐每月1450元,支持无限次访问
2024中国生成式AI大会上海站开幕!首日大模型峰会燃爆魔都,17位大咖密集输干货
瞄准万物智联时代安全痛点,安谋科技用硬核技术创新强化PSA安全生态
谷歌发布世界模型Genie 2!一键生成3D游戏,人和AI都能玩,时长多达1分钟
“消失”的小米副总裁
亚马逊年末甩王炸!6款大模型、3nm AI芯片、全球最大AI计算集群,苹果罕见站台
智能手机的未来:端侧大模型重塑用户体验|vivo AI全球研究院AI算法技术总监李方圆演讲预告
股价飙涨790%!今年最火AI妖股诞生,比英伟达还猛,创始人跻身百亿富豪榜
李飞飞空间智能上新!一张图就可以生成3D世界,能像玩游戏一样互动
生成式AI驱动实时互动的技术变革与体验革新|声网生成式AI产品负责人毛玉杰演讲预告
腾讯混元上线文生视频并开源,120秒内成片!还有提示词建议
突发!英特尔CEO基辛格下课,立即生效
谁困住了具身智能?16位人形机器人高管激辩,戳破行业真相
GenAICon 2024上海站分会场议程公布!3场研讨会17位学者专家拆解端侧AI、视频生成与具身智能
联想AIPC端侧智能体|联想集团首席研究员、联想研究院人工智能实验室研发总监师忠超演讲预告
大模型迎拐点时刻?中国生成式AI大会上海站最终议程公布,50+重磅嘉宾集聚畅谈
中国大模型生存战:巨头围剿,创业难熬
傅盛捅破AI行业窗户纸!百模大战靠数据背后是什么逻辑?
前小米全球副总裁AI创业!获谷歌、OpenAI联创投资,2个月估值36亿
MiniMax副总裁刘华:多模态大模型开放平台探索与实践|演讲预告
分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
原创标签
时事
社会
财经
军事
教育
体育
科技
汽车
科学
房产
搞笑
综艺
明星
音乐
动漫
游戏
时尚
健康
旅游
美食
生活
摄影
宠物
职场
育儿
情感
小说
曲艺
文化
历史
三农
文学
娱乐
电影
视频
图片
新闻
宗教
电视剧
纪录片
广告创意
壁纸头像
心灵鸡汤
星座命理
教育培训
艺术文化
金融财经
健康医疗
美妆时尚
餐饮美食
母婴育儿
社会新闻
工业农业
时事政治
星座占卜
幽默笑话
独立短篇
连载作品
文化历史
科技互联网
发布位置
广东
北京
山东
江苏
河南
浙江
山西
福建
河北
上海
四川
陕西
湖南
安徽
湖北
内蒙古
江西
云南
广西
甘肃
辽宁
黑龙江
贵州
新疆
重庆
吉林
天津
海南
青海
宁夏
西藏
香港
澳门
台湾
美国
加拿大
澳大利亚
日本
新加坡
英国
西班牙
新西兰
韩国
泰国
法国
德国
意大利
缅甸
菲律宾
马来西亚
越南
荷兰
柬埔寨
俄罗斯
巴西
智利
卢森堡
芬兰
瑞典
比利时
瑞士
土耳其
斐济
挪威
朝鲜
尼日利亚
阿根廷
匈牙利
爱尔兰
印度
老挝
葡萄牙
乌克兰
印度尼西亚
哈萨克斯坦
塔吉克斯坦
希腊
南非
蒙古
奥地利
肯尼亚
加纳
丹麦
津巴布韦
埃及
坦桑尼亚
捷克
阿联酋
安哥拉