基于TCN-GRU-A模型的PEMFC老化预测方法
李浩辰1,谢长君1,朱文超2,3,吴航宇4
(1.武汉理工大学 自动化学院,湖北 武汉 430070;2.材料复合新技术国家重点实验室,湖北 武汉 430000;3.燃料电池湖北省重点实验室,湖北 武汉 430000;4.武汉理工大学 汽车工程学院,湖北 武汉 430070)
摘要:为实现对动态工况下质子交换膜燃料电池(PEMFC)的老化预测,并提升门控循环单元网络(GRU)的预测能力,提出了一种将时间卷积网络(TCN)、注意力机制(Attention)和GRU结合起来的TCN-GRU-A预测方法,通过引入TCN层提升GRU特征提取能力,并用注意力机制对GRU输出特征进行加权以提升预测精度。采用PEMFC动态耐久实验数据集进行验证,通过与多种深度学习模型的预测结果对比表明:在对全电流负载数据和定电流负载数据进行的预测中,该预测方法均具有更小的预测误差和更好的拟合度。
关键词:质子交换膜燃料电池;动态工况;老化预测;深度学习
随着环境问题和能源问题的日益严重,质子交换膜燃料电池(PEMFC)作为一种具有高能量输出和无污染物的设备,逐渐受到广泛关注,成为替代化石燃料的一种选择。PEMFC的耐久性会影响其工作寿命,并且与目标值相比还有很大的提升空间,而PEMFC堆栈性能的衰退是导致耐久性有限的关键因素之一[1]。对PEMFC堆栈老化进行预测并在故障发生前进行维修,有助于避免电池的永久性损伤,进而提高PEMFC的耐久性,具有十分重要的研究意义。预测PEMFC老化的方法通常分为基于数据驱动的方法和基于模型驱动的方法。其中,基于模型驱动的预测方法依赖PEMFC的系统机理,通过物理、经验、半经验方程来建模[2]。然而,由于模型驱动的方法过于依赖老化模型,而PEMFC系统的部分退化机理尚不完全清楚,因此很难得到准确的分析模型以描述燃料电池系统的退化[3]。基于数据驱动的预测方法开始受到越来越多的研究者关注,因为它可以在预测中通过大量的实验数据构建老化行为的黑盒模型,无需考虑电池的实际老化原理,文献[4]便使用门控循环单元神经网络(GRU)对燃料电池的堆栈电压衰减趋势进行了预测。然而在实际应用中,PEMFC通常会在动态工况下工作,上述预测方法主要针对稳态工况的PEMFC老化预测,并不一定适用于动态工况下的燃料电池。此外,GRU模型在学习时间序列局部特征方面也存在着问题[5]。为进行动态工况下PEMFC的老化预测并提高GRU模型的预测能力,本文引入具有较强一维特征提取能力的时间卷积网络(TCN)[6],将TCN与GRU相结合,由TCN提取特征信息并传递给GRU;并加入注意力机制(Attention)提高预测精度,对GRU输出的重要特征加权处理,构建出能在动态工况下预测PEMFC老化趋势的TCN-GRU-A预测模型。通过Greenlight实验站测得的动态工况PEMFC耐久性实验数据集对预测模型进行验证,并同时选择多个预测模型进行对比,进一步展现TCN-GRU-A模型在预测中的优越性。1 PEMFC动态耐久性实验数据集
1.1 PEMFC在动态工况下的耐久性实验
本文使用的PEMFC长期动态耐久性测试数据集来自在Greenlight实验站(G20)进行的商用PEMFC单体电池耐久性实验[7],即FC3数据集。整个耐久性测试包括3 076次动态载荷周期(FC-DLC)循环(约1 008 h),采样频率为1 Hz,电流的设定值为施加在PEMFC上的电流负载,每个FC-DLC周期包含35个不同大小的电流负载。1.2 数据预处理
堆栈电压是反映PEMFC性能的重要指标,本文选择堆栈电压作为PEMFC的性能指标,进行退化预测工作。由于实验中的测量数据量超过了300万组,为了提高预测效率,采用1 h作为时间间隔提取原始实验数据,每小时等间隔采样10个数据点,提取前1 000 h的实验数据。最终得到PEMFC在动态工况下的全电流负载数据集,其电堆电压如图1(a)所示。由图1(a)可知,PEMFC在全电流负载下的堆栈电压缺乏明显的时变特征,没有如恒定工况下与时间呈明显的负相关性[8],所以本文从原实验数据集中提取了电流负载为4.429 7 A条件下的电压数据,然后采用移动平均函数进行平滑处理并提取出3 076个等间距的数据点,最终得到了定电流负载退化数据集,如图1(b)所示。相比原动态实验下的全电流负载电压数据,定电流负载电压数据已经有了明显的时变特征。当PEMFC到达失效阈值时,意味着必须对其进行修复或更换新的PEMFC堆栈。文献[9]根据电化学机理建立了基于FC3数据集的时变降解模型,最终发现辨识参数的退化趋势在640 h左右发生了明显变化,根据辨识参数的退化趋势拐点,设定了PEMFC在动态工况下的失效阈值点。本文提取出的定电流负载电压数据的退化趋势也在641 h发生变化,故应当将训练集设置在640 h之前。(a)全电流负载 (b)定电流负载(4.429 7 A)
图1 PEMFC在动态工况下的电堆电压
2 PEMFC老化预测方法
2.1 时间卷积网络(TCN)
TCN是一种特殊的一维卷积网络,它由因果卷积、扩展卷积和残差块组成。在燃料电池老化预测中,TCN层可以对老化数据的特征信息进行提取,并将其传递给神经网络模型进行进一步学习和传播,以提高神经网络模型在预测中的局部特征捕捉能力,其结构图如图2所示。图2 TCN结构图
在因果卷积中,当前网络层在t时刻的值仅依赖于前一层在t时刻和t之前的值,网络层之间的连接和信息传递严格遵循因果关系,使网络充分利用了历史信息。扩展卷积的出现是为了解决因果卷积中层数过多的问题。它通过扩展卷积视场来增加感受野,以更少的网络层数和更低的计算量获得更大的感受野和更多的历史信息。一维扩张因果卷积F(s)计算公式如下:式中:k为卷积核大小;d为扩张系数;s-di为卷积核中元素对应的序列;⊙为卷积运算符。在本文预测中,设置TCN层卷积核大小为3,扩张系数为2,卷积核数为50。残差块是为了高模型的深度,防止由于网络深度过大导致的梯度消失和爆炸问题,防止卷积导致的数据形状和维数变化。残差块结构如图3所示,TCN输入数据需要经过两轮展开因果卷积、权值归一化、激活函数和Dropout层,将一维卷积作为跳接的残差模块,最终输出结果发送到下一层。图3 残差块结构图
2.2 门控循环单元网络(GRU)
GRU是一种基于长短期记忆网络(LSTM)的改进循环神经网络(RNN)模型,用以解决传统RNN在处理长序列和长期依赖关系时的问题。与LSTM相比,GRU改进了门控结构,将LSTM中的输入门和遗忘门合并为更新门(zt),将输出门改为复位门(rt)。GRU的结构如图4所示。图4 GRU单元结构图
对燃料电池老化预测而言,GRU具有结构简单、参数少的优点,且可以对燃料电池的整体老化趋势进行预测,但缺乏对老化趋势中局部特征信息的学习,因此需要与TCN模型结合进行预测。GRU单元中的运算表达式为:式中:xt为t时刻的输入;ht-1为t-1时刻的输出;zt为更新门的输出;rt为复位门的输出;ht为隐藏层状态,h̃t为候选状态;σ为激活函数;Wt、Wz、Wh分别对应复位门、更新门和ht的权重矩阵;br、bz、bh分别对应复位门、更新门和ht的偏置矩阵。在本文预测中,设置GRU层的学习率为0.002,失活率为0.2,隐藏层单元数为64。2.3 注意力机制
注意力机制具有信息过滤的作用,可以评估信息在不同时刻的重要性,在燃料电池老化预测中将更多的注意分配到关键部分,可以抑制噪声引起的相关性较低或不相关的特征,从而提高预测精度。计算公式如下:式中:ek为k时刻输入层和转置后的层的点乘;αk为对点乘结果进行归一化得到的注意力权重;sk为注意力机制层在k时刻的输出,将注意力权重和输入层加权。2.4 基于TCN-GRU-A的预测模型
本文先对动态耐久性实验中PEMFC的原始老化数据进行预处理,提取出定电流负载退化数据集,选择堆栈电压作为PEMFC的性能指标,进行动态耐久性实验中的电压退化预测工作。然后将数据集按照一定比例划分为训练集和测试集输入构建的TCN-GRU-A模型进行预测,设置了30%~60%共4段不同比例的电压数据作为训练集,预测出PEMFC在动态工况下的电压老化趋势。图5为TCN-GRU-A预测模型的框架图。在短期预测中,由于预测的时间步长较短,因此需要挖掘历史信息并保留每一步的大部分信息。先将训练数据输入TCN层进行特征提取,TCN卷积层之间的因果关系意味着不会有“缺失”的历史信息或未来数据可以从历史输入序列中提取,TCN层提取的特征信息被输入到GRU层中,GRU的结构能最大限度地保留特征信息,以便在每个时间步进行顺序学习和传播。当重要特征信息在GRU中传输时,为了避免长时间、长序列导致各层次重要信息下降,在此基础上,在GRU输出层后引入注意力机制,对GRU输出的重要特征进行加权处理,从而保留重要信息并提高预测准确性。图5 TCN-GRU-A预测模型框架图
3 结果与讨论
3.1 评价指标
为了确定预测性能,本文选择了三个评价指标来评估模型的拟合程度并计算所提出的模型预测老化电压的误差,这些预测指标分别为决定系数(R2)、平均绝对误差(MAE)、均方根误差(RMSE)。其中R2表示模型预测值和原始数据的拟合程度,其值越接近于1,表明模型的拟合效果越好;RMSE和MAE用于表示模型的预测误差大小,其值越小,表明模型的预测效果越好。三种评价指标的公式如下:3.2 全电流负载数据集的预测结果
本文采用TCN-GRU-A对全电流负载下的电压进行老化预测,并用TCN-GRU、GRU和Bi-GRU-A(加有注意力机制的双向门控循环单元)三种神经网络模型作为对比,预测指标结果见表1,其中不同训练集比例下各预测模型的RMSE对比见图6。由图6可知, 在四种长度训练集下,TCN-GRU-A相比TCN-GRU和GRU具有更小的预测误差,相比GRU的RMSE降低范围为17.1%~37.6%,相比TCN-GRU的RMSE降低范围为3.0%~21.9%。虽然Bi-GRU-A在30%训练集时的预测误差小于TCN-GRU-A,但其在四段训练集下的RMSE平均值为0.015 79,大于TCN-GRU-A的0.013 69,综合而言,TCN-GRU-A在数据集1中具有更小的预测误差。图6 四种神经网络预测全电流负载数据集的RMSE对比
更进一步,由表1可知,当训练集比例为60%时,TCN-GRU-A达到了最佳拟合状态,R2为0.984,预测误差也到达了最低值,MAE为0.005 87,RMSE为0.009 79。表1 全电流负载数据集预测指标结果
训练比例/% | 预测模型 | R2 | MAE | RMSE |
30 | GRU | 0.949 | 0.012 03 | 0.021 45 |
TCN-GRU | 0.963 | 0.008 28 | 0.018 33 |
Bi-GRU-A | 0.989 | 0.007 01 | 0.014 02 |
TCN-GRU-A | 0.965 | 0.008 01 | 0.017 78 |
40 | GRU | 0.954 | 0.011 46 | 0.020 45 |
TCN-GRU | 0.972 | 0.007 15 | 0.015 89 |
Bi-GRU-A | 0.955 | 0.012 97 | 0.020 31 |
TCN-GRU-A | 0.974 | 0.006 13 | 0.015 27 |
50 | GRU | 0.962 | 0.010 87 | 0.018 73 |
TCN-GRU | 0.975 | 0.009 51 | 0.015 15 |
Bi-GRU-A | 0.972 | 0.010 40 | 0.016 70 |
TCN-GRU-A | 0.978 | 0.006 27 | 0.011 94 |
60 | GRU | 0.973 | 0.009 47 | 0.015 70 |
TCN-GRU | 0.983 | 0.008 08 | 0.012 54 |
Bi-GRU-A | 0.984 | 0.008 82 | 0.012 11 |
TCN-GRU-A | 0.984 | 0.005 87 | 0.009 79 |
3.3 定电流负载数据集的预测结果
本文采用TCN-GRU-A对定电流负载数据集的电压进行老化预测,并采用TCN-GRU、GRU和Bi-GRU-A三种神经网络模型作为对比,预测指标结果见表2。表2 老化电压预测指标结果
训练比例/% | 预测模型 | R2 | MAE | RMSE |
30 | GRU | 0.421 | 0.003 74 | 0.004 78 |
TCN-GRU | 0.920 | 0.001 36 | 0.001 73 |
Bi-GRU-A | 0.799 | 0.002 02 | 0.002 76 |
TCN-GRU-A | 0.955 | 0.000 99 | 0.001 29 |
40 | GRU | 0.539 | 0.002 98 | 0.003 72 |
TCN-GRU | 0.886 | 0.001 52 | 0.001 85 |
Bi-GRU-A | 0.887 | 0.001 20 | 0.001 84 |
TCN-GRU-A | 0.963 | 0.000 77 | 0.001 06 |
50 | GRU | 0.824 | 0.001 81 | 0.002 34 |
TCN-GRU | 0.965 | 0.000 88 | 0.001 03 |
Bi-GRU-A | 0.954 | 0.000 79 | 0.001 20 |
TCN-GRU-A | 0.984 | 0.000 45 | 0.000 71 |
60 | GRU | 0.929 | 0.001 08 | 0.001 58 |
TCN-GRU | 0.981 | 0.000 59 | 0.000 81 |
Bi-GRU-A | 0.957 | 0.000 84 | 0.001 23 |
TCN-GRU-A | 0.988 | 0.000 31 | 0.000 63 |
通过表2可以看出,当训练集为30%时,四种神经网络模型都存在一定的预测偏差,但TCN-GRU-A模型的预测误差最小,与真实电压曲线的拟合程度最好。相比于原始的GRU模型,TCN-GRU-A的RMSE降低了73.0%,MAE降低了73.5%;相比于TCN-GRU模型,TCN-GRU-A模型的RMSE降低了25.4%,MAE降低了27.2%。更进一步,通过图7(a)中620~630 h的电压局部放大图可以看出,原始的GRU模型和经过改进的Bi-GRU-A都不能很好地跟随电压的下降趋势,但在加入TCN层后,增强了预测模型对特征信息的提取能力,使预测模型能够从一定程度上捕捉电压降的特征;在加入注意力机制层后,预测模型保留了电压降的重要特征,进一步提升了预测效果,使预测模型在较少训练集的情况下也能预测出电压的下降趋势。随着训练比例的增加,TCN-GRU模型也能够预测电压变化趋势,如图7(b)所示。但从表2可进一步看出TCN-GRU-A模型的预测效果更好,在训练比例为60%时达到了最佳拟合状态,R2为0.988,预测误差也达到了最低值,MAE仅为0.000 31,RMSE仅为0.000 63。图7 四种神经网络在不同长度训练集下预测定电流负载数据集的结果
由表2可以看出,在四段不同比例的训练集中,TCN-GRU-A模型相比其他三种模型均有着较高的预测精度,特别是当训练集比例较低时,相比GRU模型和Bi-GRU-A模型,TCN-GRU-A模型依然能够跟随电压的老化趋势,这些都体现出TCN-GRU-A模型在动态负载下的PEMFC老化预测领域具有重要价值。4 结论
本文对动态工况下PEMFC耐久性实验进行了老化预测,从原实验数据集中提取了全电流负载数据集和定电流负载数据集,构建出TCN-GRU-A模型对两种数据集进行预测,并与其他深度学习模型进行对比,验证了方法的有效性,主要结论如下:(1)本文提出的TCN-GRU-A模型适用于定电流负载和全电流负载两种不同类型下的PEMFC电压老化预测。
(2)相比GRU模型和TCN-GRU模型,本文提出的预测方法在预测中具有更小的预测误差和更好的拟合度,在训练集较少的情况下依然能预测电压老化趋势。
(3)TCN-GRU-A模型在对定电流负载数据的预测中具有更高的精度,RMSE在60%训练集下仅为0.000 63。
但是,预测PEMFC电压老化趋势不是电池健康管理的最终目的,如何有效利用预测结果实现PEMFC的控制和管理以及提高PEMFC在动态工况下的耐久性,是需要进一步研究的课题。
参考文献:
[1] HUA Z, ZHENG Z, PAHON E, et al. A review on lifetime prediction of proton exchange membrane fuel cells system[J]. Journal of Power Sources, 2022, 529: 231256.
[2] NGUYEN H L, LEE S M, YU S. A comprehensive review of degradation prediction methods for an automotive proton exchange membrane fuel cell[J]. Energies, 2023, 16(12): 4772.
[3] 李奇, 刘嘉蔚, 陈维荣. 质子交换膜燃料电池剩余使用寿命预测方法综述及展望[J].中国电机工程学报, 2019, 39(8): 2365-2375.
[4] 欧明阳, 杨代军, 张存满. 基于循环神经网络的PEMFC寿命预测[J].电池, 2020, 50(2): 123-126.
[5] MENG X, ZHU T, LI C. Construction of perfect dispatch learning model based on adaptive GRU[J]. Energy Reports, 2022, 8: 668-677.
[6] PAN M, HU P, GAO R, et al. Multistep prediction of remaining useful life of proton exchange membrane fuel cell based on temporal convolutional network[J]. International Journal of Green Energy, 2023, 20(4): 408-422.
[7] ZUO J, LV H, ZHOU D, et al. Long-term dynamic durability test datasets for single proton exchange membrane fuel cell[J]. Data in Brief, 2021, 35: 106775.
[8] 谢宏远. 氢燃料电池的剩余使用寿命预测研究[D].哈尔滨:哈尔滨工业大学, 2021.
[9] WANG C, DOU M, LI Z, et al. A fusion prognostics strategy for fuel cells operating under dynamic conditions[J]. Etransportation, 2022, 12: 100166.