面向非平稳时间序列预测任务的持续学习框架
持续学习任务示意图
工业时间序列是反映生产过程的结构化数据,其分析和预测对于优化工业流程、提升效率具有重要意义。然而,工业生产过程中的动态变化会导致时间序列数据分布漂移,使得传统静态预测模型无法长期保持高效性。传统的模型更新方法,如重新训练的计算和存储成本高昂;而增量微调的方式容易导致已学模式的灾难性遗忘,这些问题限制了现有模型在非平稳工业环境中的应用效果。
为应对上述挑战,中国科学院沈阳自动化研究所数字工厂研究室科研团队提出了一种面向非平稳工业时间序列预测的自适应持续学习(Adaptive Continual Learning,ACL)方法,显著提升了预测模型的适应性和泛化能力。该研究成果以An Adaptive Continual Learning Method for Nonstationary Industrial Time Series Prediction为题,发表在中国科学院1区TOP期刊IEEE Transactions on Industrial Informatics。
该研究从网络训练和网络结构两个方面改进了持续学习方法。团队通过基于提示的网络参数学习保留了先前任务的“暗知识”,有效缓解灾难性遗忘,同时,引入软记忆缓冲区使模型能够更好地学习当前任务,从而在稳定性与可塑性之间实现平衡。此外,团队在网络结构层面提出了一种时间敏感的激活函数TimeRelu,使网络激活阈值随时间变化,从而提高了模型的泛化能力。该方法在开源的太阳能发电数据集和实际的磨矿分级过程数据集上验证了其有效性。
研究成果有望应用于智能矿山、钢铁冶金等复杂工业场景中的预测性维护和生产过程优化等场景。下一步,将针对任务划分的自动化和概念漂移检测等问题开展深入研究,同时探索元学习等前沿技术在增强模型动态适应能力方面的潜力。
该研究得到了国家自然科学基金和辽宁省重点研发计划的支持。
SIA
关注我们
中国科学院沈阳自动化研究所