点击名片
关注并星标
#TSer#
本文介绍一项由华东师范大学提出的前沿研究，它首次瞄准了一项全新的时间序列任务——时间序列异常预测。与传统的异常检测工作侧重于事后识别不同，该模型突破性地聚焦于未来异常的预测。基于异常发生前存在不同于正常状态的前兆信号这一关键假设，研究团队提出了多尺度重构对比方法，在异常预测和异常检测任务上均达到 SOTA 效果。
【论文标题】
MultiRC: Joint Learning for Time Series Anomaly Prediction and Detection with Multi-scale Reconstructive Contrast
论文背景
时间序列异常检测技术通过检测历史序列的异常进行故障源定位，得到了广泛关注。然而该文章指出，现有研究忽略了预防性维护的需求。通过实际观察发现，在异常发生之前，数据存在从正常状态转变为异常状态的波动。该波动的持续时间称为反应时间，而该波动称为未来异常的前兆信号。
尽管现有方法在异常检测中具有良好的效果，但这些方法无法有效地扩展到异常预测。一方面，不同异常的反应时间长短不一，特别是不同变量也具有不同的反应时间长度。另一方面，异常标注的缺失，导致所学特征看起来相似，现有方法无法准确识别出波动以及波动幅度，影响了异常预测效果。
为了解决上述问题，作者构建了基于多尺度重构对比学习的时间序列异常预测与检测的联合学习方法（MultiRC），通过识别前兆信号，在不需要真实异常标注的情况下，预测未来异常。
图 1：(a) 历史数据上的异常检测；(b) 未来的异常预测
模型方法
图 2：MultiRC 框架
01
多尺度结构
基于周期较长的变量更可能逐渐演变，而周期较短的变量更可能快速变化这一观点。作者在频域中捕捉每个变量的主导周期进行掩码，以估算其反应时间。此外，多尺度分片独立于主导周期掩码，帮助同时捕捉不同时间间隔的特征，从而适应与主导周期不一致的不同反应时间。
02
掩码时间序列重构
为了准确评估反应时间内波动的幅度，作者对主导周期掩码的时间序列进行重构。尺度编码器采用与 Transformer Encoder 相同的结构，输出用于后续重构和正样本对的表示。解码器使用轻量级 MLP 对不同尺度的输入进行重构，融合多尺度信息。
03
基于生成的对比学习
通过受控生成策略，构建多样化的前兆信号作为硬负样本，防止模型退化并更好地区分波动。掩码时间序列重构模块的编码器输出作为正样本，受控噪声污染生成硬负样本，旨在避免模型退化并更准确地判断波动。
04
联合优化
如前所述，掩码重构和对比学习是相互关联的。重构损失专注于从局部掩码的时间序列数据中提取关键特征，对比损失学习跨时间区间的整体趋势和模式。
实验效果
文中在多个数据集上评估了 MultiRC 在异常预测任务上的性能，结果显示 MultiRC 取得了显著优势。值得说明的是，MultiRC 在 PSM 和 SWaT 数据集上的表现显著优于其他数据集，这是因为异常预测需要模型检测到前兆信号。而在某些数据集中，这些前兆信号不太明显，因此限制了模型的性能。
表1：时间序列异常预测结果
表2：时间序列异常检测结果
实验部分还验证了 MultiRC 中各个模块的有效性，重点关注多尺度结构（w/o multi-scale），自适应调整的掩码尺度（w/o adaptive mask），掩码重构模块（w/o reconstruction），对比学习模块（w/o contrastive）和噪声生成（w/o generation）。
表3：异常预测消融研究的结果
总结
扫下方二维码，加入时序人学术星球
星球专注于时间序列领域的知识整理，前沿追踪
提供论文合集、视频课程、问答服务等资源
270+篇专栏笔记，已有250+小伙伴加入
价格随着内容丰富而上涨，早入早享优惠哦~
时间序列学术前沿系列持续更新中 ⛳️
后台回复"讨论"，加入讨论组一起交流学习 🏃
往期推荐阅读
觉得不错，那就点个在看和赞吧
