【Applied Energy最新原创论文】使用输入凸长短期记忆神经网络进行基于机器学习的实时优化

学术   2024-11-14 18:30   美国  

原文信息

Real-time machine-learning-based optimization using Input Convex Long Short-Term Memory network

原文链接:

https://www.sciencedirect.com/science/article/abs/pii/S0306261924018555


Highlights

(1) 用于实时优化的输入凸长短期记忆神经网络

(2) 提高实时优化和控制系统的计算效率

(3) 输入凸长短期记忆神经网络凸性的理论证明

(4) 对现实世界的太阳能混合能源系统进行实时优化

Research gap

传统的模型优化与控制依赖于第一性原理模型的开发,这一过程往往耗费大量资源。基于神经网络的优化方法虽然具有潜力,但其计算速度较慢,限制了其在实时任务中的应用。提升计算效率是基于神经网络优化在现实世界和实时应用中得以广泛实施的关键因素。

摘要

基于神经网络的优化和控制方法,通常被视为“黑箱”方法,近年来在能源和制造系统中得到了越来越多的关注,特别是在第一性原理模型不可用或不准确的情况下。然而,这些方法的非凸性往往导致优化和控制过程显著变慢,限制了其在实时决策中的应用。为应对这一挑战,我们提出了一种新颖的输入凸长短期记忆 (IC-LSTM) 网络,以提升基于神经网络的优化计算效率。通过两个涉及能源和化工系统的实时神经网络优化案例研究,我们展示了基于 IC-LSTM 优化在运行时间方面的卓越表现。具体而言,在新加坡 LHT Holdings 实际太阳能光伏能源系统的实时优化问题中,与传统 LSTM 优化方法相比,基于 IC-LSTM 的优化实现了至少 4 倍的加速。这些结果表明,IC-LSTM 网络具有显著提升基于神经网络优化和控制效率的潜力,在实际应用中展现出广阔前景。

Abstract

Neural network-based optimization and control methods, often referred to as black-box approaches, are increasingly gaining attention in energy and manufacturing systems, particularly in situations where first-principles models are either unavailable or inaccurate. However, their non-convex nature significantly slows down the optimization and control processes, limiting their application in real-time decision-making processes. To address this challenge, we propose a novel Input Convex Long Short-Term Memory (IC-LSTM) network to enhance the computational efficiency of neural network-based optimization. Through two case studies employing real-time neural network-based optimization for optimizing energy and chemical systems, we demonstrate the superior performance of IC-LSTM-based optimization in terms of runtime. Specifically, in a real-time optimization problem of a real-world solar photovoltaic energy system at LHT Holdings in Singapore, IC-LSTM-based optimization achieved at least 4-fold speedup compared to conventional LSTM-based optimization. These results highlight the potential of IC-LSTM networks to significantly enhance the efficiency of neural network-based optimization and control in practical applications.

Keywords

Solar energy forecasting

Photovoltaic technology

Deep learning

Transformer

Near real-time nowcasting

Geostationary satellite

Graphics

图1 基于神经网络优化的系统架构

图2 IC-LSTM 的架构

图3 双变量标量函数的 3D 图,其中“true”表示底层非凸函数,“pred”表示 IC-LSTM 学习到的凸形式

作者简介

团队介绍:

本研究由新加坡国立大学(NUS)研究人员完成。

通信作者简介:

吴喆,现任新加坡国立大学化工与生物分子工程系助理教授。他的研究团队主要致力于动态系统建模、先进控制与优化算法开发,以及机器学习在控制、化工、制药与能源系统中的应用。在化工与控制领域的国际权威期刊及会议上,吴博士以第一作者或通讯作者身份发表了80余篇论文,并主持了多个由新加坡ASTAR、教育部、国家研究基金、辉瑞公司等资助的研究项目,总金额达300万新元。吴博士现任Digital Chemical Engineering期刊编委、American Control Conference副编委,并担任ACS Chem & Bio Engineering青年编委会成员。他还入选了斯坦福/爱思唯尔2024年全球前2%科学家榜单,以及ScholarGPS 2024年机器学习领域前0.05%学者名单。


第一作者简介:

王子昊,新加坡国立大学研究助理。本科毕业于新加坡国立大学计算机科学系。研究方向包括凸神经网络、模型预测控制、大模型在化工建模中的应用。

关于Applied Energy

本期小编:郑培钧;审核人:彭维柯

《Applied Energy》是世界能源领域著名学术期刊,在全球出版巨头爱思唯尔 (Elsevier) 旗下,1975年创刊,影响因子10.1,CiteScore 21.2,本刊旨在为清洁能源转换技术、能源过程和系统优化、能源效率、智慧能源、环境污染物及温室气体减排、能源与其他学科交叉融合、以及能源可持续发展等领域提供交流分享和合作的平台。开源(Open Access)姊妹新刊《Advances in Applied Energy》影响因子13.0,CiteScore 23.9。全部论文可以免费下载。在《Applied Energy》的成功经验基础上,致力于发表应用能源领域顶尖科研成果,并为广大科研人员提供一个快速权威的学术交流和发表平台,欢迎关注!

公众号团队小编招募长期开放,欢迎发送自我简介(含教育背景、研究方向等内容)至wechat@applied-energy.org

点击“阅读原文”

喜欢我们的内容?

点个“赞”或者“再看”支持下吧!

阅读原文

AEii国际应用能源
发布应用能源领域资讯,介绍国际应用能源创新研究院工作,推广应用能源优秀项目,增进应用能源领域合作
 最新文章