时序预测数据处理新方法汇总:多粒度和频域的可逆归一化

科技   2024-10-06 21:31   北京  

点关注,不迷路,用心整理每一篇算法干货~

后台留言”交流“,加入圆圆算法交流群~
👇🏻扫码👇🏻加入圆圆算法知识星球~
已有870+同学加入学习,700+干货笔记)

时间序列预测建模中,非平稳性或distribution shift一直是一个建模难点。非平稳性指的是时间序列的统计量,如均值、方差随时间发生变化,导致数据分布随着时间发生漂移,造成了模型训练和拟合的难度。

今天给大家介绍一下最近一段时间提出的2种解决时间序列非平稳性问题的方法。这两种方法分别从多粒度的角度和频域的角度进行可逆归一化,实现了不错的效果提升。

1

基础可逆归一化方法

可逆归一化最基础的方法来自REVERSIBLE INSTANCE NORMALIZATION FOR ACCURATE TIME-SERIES FORECASTING AGAINST DISTRIBUTION SHIFT(ICLR 2022),这篇文章的核心思路是在输入序列中将均值、方差等序列不稳定的信息去掉,再在输出阶段利用这些被去掉的不稳定但是序列个性化的信息对序列进行还原,模型重点处理去掉均值和方差后的平稳序列的预测任务。

下面给大家进一步介绍最近两篇可逆归一化建模方法。

2

多粒度可逆归一化

论文标题:EVOLVING MULTI-SCALE NORMALIZATION FOR TIME SERIES FORECASTING UNDER DISTRIBUTION SHIFTS

下载地址https://arxiv.org/pdf/2409.19718v1

上述基础的ReVIN只考虑了单一粒度的统计量信息,没有考虑多粒度信息的影响。时间序列中,不同的粒度的序列,对应的均值和方差都是存在较大差异的,只用单一粒度的统计量进行归一化,无法完美解决分布漂移问题。

为了解决上述问题,本文提出了一种多粒度归一化方法。对于原始时间序列,先经过傅里叶变换后,找到topK个主成分,这些主成分表明序列的主要季节性信息。接下来,根据这些频率信息作为聚合粒度,生成K种不同粒度的时间序列聚合结果。针对每种粒度的时间序列,分别使用类似Dish-TS的建模方法,进行均值方差的归一化,并预测未来的均值方差,再将预测的均值方差作用到模型输出结果上。对于不同粒度的预测结果进行ensemble,使用频域中该粒度对应频域的振幅进行加权,得到最终的预测结果。

3

频域可逆归一化

论文标题:Frequency Adaptive Normalization For Non-stationary Time Series Forecasting

下载地址https://arxiv.org/pdf/2409.20371v1

ReVIN这种在时域进行的可逆归一化方法,虽然能解决均值和方差的变化问题,但是无法解决周期性的变化问题。比如图中,模型的季节性随着时间发生变化,这个信息在ReVIN的方法中无法消除。

为了解决这个问题,这篇文章提出了一种在频域进行可逆归一化的建模方法。其整体建模思路和ReVIN类似,将原始序列通过傅里叶变换映射到频域,在频域中选择topK个主要频率成分,将这些主要频率成分从原始数据中剥离出来,模型只对剩余的平稳季节项的序列进行预测,预测结果再加上主要频率成分进行还原。

4

总结

分布漂移是时间序列预测的一个核心研究点,也是建模的难点。今天介绍的2篇新方法,从不同维度提出了新的时间序列可逆归一化建模方法,取得了一定的效果提升,可以在实际应用中进行尝试。

END




后台留言”交流“,加入圆圆算法交流群~
后台留言”星球“,加入圆圆算法知识请星球~【时序预测专题课程持续更新中
知识星球提供一文贯通笔记、经典代码解析、问答服务、新人入门,已有870+小伙伴加入价格随人数增加和内容丰富上涨,感兴趣的同学尽早加入~


投稿&加交流群请加微信,备注机构+方向拉群~

【历史干货算法笔记】
生成式模型入门:一文讲懂3大类生成式模型
Sptial-Temporal时空预测总结:建模思路、优化方法梳理
时序预测顶会论文数据集、数据处理方法、训练方法汇总
时间序列预测实战方法概述:从数据到模型
Informer模型结构和代码解析
基于Transformer的时序预测模型TFT代码详解
时空预测经典模型STGCN原理和代码解读
一网打尽:14种预训练语言模型大汇总
Vision-Language多模态建模方法脉络梳理
花式Finetune方法大汇总
从ViT到Swin,10篇顶会论文看Transformer在CV领域的发展历程

如果觉得有帮助麻烦分享在看点赞~  

圆圆的算法笔记
定期更新深度学习/算法干货笔记和世间万物学习记录~
 最新文章