真卷,KAN网络已经被用于地学研究了。。。

文摘   2024-11-22 00:00   湖南  
关注地球与工智能设置EarthAi星标

英文标题 Advanced streamflow forecasting for Central European Rivers: The Cutting-Edge Kolmogorov-Arnold networks compared to Transformers

作者 Francesco Granata、Senlin Zhu、Fabio Di Nunno

作者机构 Department of Civil and Mechanical Engineering, University of Cassino and Southern Lazio;College of Hydraulic Science and Engineering, Yangzhou University

期刊 Journal of Hydrology

期刊发表时间 2024 年 11 月

引用方式

Francesco Granata, Senlin Zhu, Fabio Di Nunno. Advanced streamflow forecasting for Central European Rivers: The Cutting-Edge Kolmogorov-Arnold networks compared to Transformers[J]. Journal of Hydrology, 2024, 645: 132175.

摘要

准确的径流预测对于水资源管理、防洪和维持生态平衡至关重要,尤其在欧洲中部的主要河流。本研究利用莱茵河、多瑙河、易北河和奥得河的长期水文数据,评估了两种先进的深度学习算法 —— 柯尔莫哥洛夫 - 阿诺德网络(KAN)和 Transformer 的性能。数据集包括历史日径流数据及移动平均和流量变化等衍生输入参数,用于预测短期(1 至 7 天)河流流量。KAN 模型利用基于样条的可学习激活函数,提高了捕捉复杂水文模式的准确性和可解释性;Transformer 模型则使用先进的注意力机制,擅长处理具有长程依赖的顺序数据。结果表明,KAN 模型在短期预测(最多 3 天)中显著优于 Transformer。在 1 天预测中,KAN 在莱茵河、多瑙河、易北河和奥得河的 R² 值分别为 0.975、0.956、0.992 和 0.969,MAPE 值介于 3.20% 至 8.09% 之间;3 天预测时,KAN 的 R² 值仍较高,表现稳健;随着预测期延长至 7 天,两种模型性能趋于一致。这些发现凸显了 KAN 在方法上的新颖性,与现有方法相比,其短期预测能力更强,为复杂水文环境下的水资源管理策略改进提供了有价值的见解。


研究背景

气候变化和人类活动的共同影响使全球淡水生态系统面临前所未有的挑战,对河流、湖泊和湿地的水文状况、水质和生物多样性造成改变,如气温上升和极端天气事件频率增加扰乱淡水系统自然平衡,人类干预(如水坝建设、污染和土地利用变化)加剧这些影响,导致重大生态后果。在这种背景下,准确及时的河流水量预测对水资源管理至关重要,尤其是在气候多变和极端天气事件频发的情况下,对有效水资源管理、优化水资源分配、确保水生生态系统可持续性以及可靠洪水预测具有重要意义。欧洲中部的莱茵河、多瑙河、易北河和奥得河是重要的研究案例,这些河流因自然和人为因素经历显著水文变化,其跨国界性质和复杂流动动态给径流建模带来挑战,近年来气候变化引发的极端天气事件使先进预测模型更为关键。


研究意义

本研究首次将 KAN 算法应用于径流预测,并与 Transformer 模型进行直接比较,结果表明 KAN 在短期预测(最多 3 天)中表现卓越,为水资源管理提供更可靠的早期预警,有助于优化水资源分配,尤其在干旱或低流量时期,平衡农业、工业和生态系统保护需求;研究结果也为其他地区类似环境挑战提供框架,为提高径流预测的准确性和可靠性奠定基础。


资料与方法

  1. 案例研究与数据集:研究涉及莱茵河、多瑙河、易北河和奥得河四条河流,使用各河流特定站点长期的日径流数据,如莱茵河使用德国杜塞尔多夫站 1900 年 11 月 1 日至 2022 年 12 月 31 日的数据,多瑙河使用布达佩斯站 1996 年 1 月 1 日至 2022 年 12 月 31 日的数据等,数据可从全球径流数据中心网站下载,同时还使用了流量变化、移动平均等辅助变量,未考虑外源变量。
  2. 柯尔莫哥洛夫 - 阿诺德网络(KAN):基于柯尔莫哥洛夫 - 阿诺德表示定理,在网络边缘使用可学习的参数化为样条的激活函数,以提高准确性和可解释性。模型包括输入层、样条层、密集层和输出层,采用 Adam 优化器、Huber 损失函数和提前停止机制,通过贝叶斯优化调整超参数。
  3. Transformer 算法:利用先进注意力机制处理具有长程依赖的顺序数据,模型包含输入层、密集编码层、多个注意力层、前馈层、全局平均池化层和输出层,采用 Adam 优化器、Huber 损失函数和提前停止机制,超参数经过精心校准。
  4. 模型性能评估:使用 Kling - Gupta 效率(KGE)、决定系数(R²)、均方根误差(RMSE)和平均绝对百分比误差(MAPE)等指标评估模型性能。
  5. 模型开发与微调:选择先前观测的径流滞后值及四个辅助变量作为输入,通过贝叶斯优化选择滞后值数量和调整模型超参数,每个模型用 80% 的时间序列数据训练,20% 用于测试,数据输入进行归一化处理。

图1. KAN框架


图2. Transformer模型框架



研究结果

  1. 评估指标结果:KAN 模型在莱茵河 1 天预测中 KGE 为 0.969、R² 为 0.975,随着预测期延长准确性下降;Transformer 算法在 1 天预测中也有较高准确性,KGE 为 0.911、R² 为 0.955,但性能也随预测期延长而降低。多瑙河、易北河和奥得河的情况类似,1 天预测时 KAN 模型表现出色,随着预测期增长性能下降,Transformer 算法也有相似趋势。1 天预测时 KAN 模型在所有河流中均优于 Transformer,3 天预测时性能差距缩小,7 天预测时两者性能趋于一致。
  2. 时间序列分析:KAN 模型在四条河流的 1 天预测中,与观测值拟合较好,但在峰值流量事件中存在小的不准确;Transformer 模型在每日流量预测中也表现出高准确性,但在峰值流量时存在轻微偏差。两者在四条河流中均表现出较强预测能力,KAN 模型通常准确性更高,能更好处理流量变化。
  3. 高低流量预测能力及综合比较:对于两条模型,MAPE 随预测期延长而增加,KAN 模型在所有河流中始终优于 Transformer,尤其在极端事件预测中表现更稳健。通过 KGE/MAPE 比分析,KAN 算法在 3 天预测期内表现优越,长预测期差异缩小,易北河表现最佳。

图7 KAN 和 Transformer 两种模型在四条河流中的 MAPE 趋势,包括整体、第一十分位数和第十十分位数结果随预测期的变化


图8 KGE/MAPE 比率与不同模型和案例研究的预测范围。


研究结论

本研究将 KAN 算法应用于径流预测,在短期预测(最多 3 天)中优于 Transformer 模型,其创新架构提高了准确性和可解释性。然而,7 天预测时两者性能趋于一致,表明长期预测维持高准确性具有挑战性,可能需纳入外源变量(如气象数据)。研究局限于低流量变化的大河流和相对短的预测期,未来研究应纳入更多变水文环境的河流,探索更长预测期和更复杂数据集,以提高模型可靠性。


研究的不足

本研究的局限性在于所调查的特定类型的河道以及所考虑的预测范围。案例研究涉及大河流,其特点是流量变化低,这有利于基于深度学习的预测模型实现高精度,但限制了研究结果对更多变或极端水文条件的普遍性。未来研究应扩展到包括更具挑战性的案例,如具有急流特征的河流或位于干旱地区的河流,这些地区流量变化更大,预测本身更复杂。将预测范围扩展到 7 天以上也将是一个关键的探索领域。在这些情况下实现可靠的结果可能需要整合额外的外源输入变量,如气象数据和其他可从卫星观测或地面传感器获得的水文参数。此外,将 KAN 和 Transformer 算法与其他机器学习和深度学习模型进行混合将对提高径流预测的稳健性和可靠性至关重要。
来源:地学科研动态、天候玄机
加EarthAi微信交流群,请备注:姓名-行业-单位)


声明:本公众号分享的资源均来自于互联网的公开资源,仅供个人学习和研究使用,不代表本人对其版权、真实性、合法性、准确性等方面做出任何保证。任何使用本号分享的资源的个人或组织,需自行承担相应的法律责任和后果;本号不承担任何法律责任和连带责任。使用本号分享的资源即代表您已完全了解并同意本免责声明的所有内容。






上海位温信息科技有限公司

专业的商业气象服务商



(咨询数据详情,可添加微信,请备注:合规数据



可提供气象产品 

  • 全国三千多个基准站

3213 个主要城市站点、每小时发 布 1 次,

每天发布 24 次,每次提供当前整点时刻的

城市站点实况天气(实况产品会在整点后

15 分钟、20 分钟、30 分钟进行数据更新),

要素包括:天气现象、气温、体感温度、风速、

风力、风向、相对湿度、气压、1小时降水量、

10分钟降水量、能见度、日出时间、日落时间、

紫外辐射等要素。

  • 探空气象站

  • 海洋气象站

  • 雷达拼图

  • 卫星云图(风云4、葵花8)

  • 格点实况、再分析资料

  • 数值预报:CMA EC GFS

  • 强对流天气预报

  • 强天气落区预报

    强对流天气(短时强降水/冰雹/雷暴大风)概率预报图

  • 台风、热带气旋

可提供国内与国外各类气象咨询气象服务

本公司提供服务稳定可靠,您值得拥有。




EarthAi
AI4Earth、人工智能、气象数值预报、学术论文!产业资讯等等……
 最新文章