在深度学习领域的版图中，【时间序列】分析正逐步占据举足轻重的地位。其核心价值在于能够深度剖析时间顺序数据中隐藏的内在规律，进而为深度学习模型在预测以及模式识别等关键任务中注入强大动力，使其性能得到飞跃式提升。 从实际应用来看，【时间序列】分析在金融领域可助力分析市场趋势，为投资决策提供依据；在气象领域有助于精准预测天气变化，提前防范自然灾害；在健康监测领域能够实时追踪生命体征，预警潜在健康风险等。其在众多关键领域所展现出的强大应用潜力，已然使其成为当前学术研究领域备受瞩目的焦点之一。
而在众多创新技术中，ModernTCN脱颖而出。它以开创性的纯卷积网络架构，在竞争激烈的ICLR 2024 时序分析论文评选中一举夺得最高荣誉。这一具有突破性的技术，在性能表现上毫不逊色于行业内现有的领先方法，精准度极高；同时，在运算效率方面更是实现了令人瞩目的显著提升，大大缩短了处理时间。它的出现无疑为时间序列预测领域开辟了全新的发展路径，为未来的研究和应用带来了更为广阔的想象空间与无限可能，引领着深度学习在时间序列分析方向持续深入发展。
在【时间序列】分析技术蓬勃发展的当下，为了帮助大家更深入地掌握这一关键技术并推动其创新应用，我进行了细致且全面的筛选工作，最终确定了极具价值的 20篇研究文献。这些论文均源自近两年内顶级会议和期刊，代表了时间序列分析领域的前沿动态与卓越成果。
需要的同学扫码添加我
回复“时间序列20”即可全部领取
一、Diversity-Aware Meta Visual Prompting
1. 方法
本论文提出了一种名为Diversity-Aware Meta Visual Prompting (DAM-VP) 的方法，用于将预训练的视觉模型高效地迁移到具有冻结主干的下游任务。DAM-VP 的核心方法包括：
1.1多样性感知提示策略
通过元提示（Meta-prompt）初始化，将下游数据集聚类成小的同质子集，并为每个子集单独优化提示。
1.2动态选择提示
在推理过程中，根据输入与每个子集的特征距离动态选择适当的提示。
1.3元提示学习
通过在多个数据集上学习元提示，实现快速适应新数据集并提高性能。
1.4多样性适应的数据集划分
使用聚类方法将高多样性的数据集划分为子集，并为每个子集分配特定的视觉提示。
1.5多样性感知提示选择
基于聚类得到的原型，将整个训练数据集划分为不同的子集，并为每个子集分配一个特定的视觉提示。
1.6提示学习
通过最小化提示图像和真实标签之间的交叉熵损失来优化视觉提示。
2.创新点
2.1多样性感知的提示初始化
提出了一种基于数据集多样性的提示初始化策略，通过元学习的方式为每个子集的提示提供更好的起点。
2.2动态提示选择机制
根据输入数据与子集特征的距离动态选择提示，提高了模型对不同数据分布的适应性。
2.3元提示学习设计
通过在多个数据集上进行元学习，学习到的元提示可以帮助新数据集更快地收敛并提高性能。
2.4高效的多样性适应策略
通过聚类方法自动适应数据集的多样性，减少了优化难度并显著提高了提示性能。
2.5在多种预训练模型和下游数据集上的广泛实验
证明了DAM-VP在不同预训练模型和多样化下游任务中的有效性和优越性。
2.6实际应用中的高效性
DAM-VP能够在保持高效率的同时实现与全参数微调相当的性能，特别是在高多样性数据集上表现出色。
论文链接：https://arxiv.org/pdf/2303.08138
二、Visual Prompt Multi-Modal Tracking
1.方法
本论文提出了一种名为Visual Prompt Multi-Modal Tracking (ViPT) 的方法，用于将预训练的RGB基础模型适应到多种下游多模态跟踪任务中。ViPT的核心方法包括：
1.1视觉提示学习
通过学习与模态相关的提示（prompts），使冻结的预训练基础模型适应于各种下游多模态跟踪任务。
1.2模态互补提示器（Modality-Complementary Prompter, MCP）
在冻结的基础模型中插入多个MCP块，以有效学习不同模态之间的互补性。
1.3多模态输入处理
将RGB和辅助模态输入分别送入基础模型和MCP，生成模态特定的视觉提示，并将这些提示添加到原始RGB流中。
1.4优化策略
在多模态跟踪模型的训练过程中，只更新少量的视觉提示学习参数，而保持基础模型的其他参数不变。
2.创新点
2.1多模态跟踪的视觉提示框架
ViPT提出了一种新的视觉提示学习框架，用于实现面向任务的多模态跟踪，同时保持参数高效（小于1%的可训练参数）。
2.2模态互补提示器的设计
ViPT设计了MCP来生成有效的视觉提示，将辅助模态输入整合到少量提示中，而不是设计额外的网络分支。
2.3面向多模态跟踪的统一框架
ViPT是一个通用框架，适用于各种下游多模态跟踪任务，如RGB-D、RGB-T和RGB-E跟踪。
2.4在多个下游跟踪任务上的性能提升
通过广泛的实验，ViPT在多个下游多模态跟踪任务上实现了最先进的性能，同时保持了参数效率。
2.5与现有多模态跟踪方法的区别
与现有方法相比，ViPT更深入地探索了不同模态之间的关联性，并通过提示学习的形式实现了模态间的互补性学习，从而在多模态跟踪任务中取得了更好的性能。
论文链接：https://arxiv.org/pdf/2303.10826
需要的同学扫码添加我
回复“时间序列20”即可全部领取
三、Spanning Training Progress: Temporal Dual-Depth Scoring (TDDS) for Enhanced Dataset Pruning
1.方法
本论文提出了一种名为Temporal Dual-Depth Scoring (TDDS) 的数据集剪枝方法，旨在通过平衡训练动态的整合和识别具有良好泛化能力的样本来提高数据集剪枝的效果。TDDS方法的核心步骤包括：
1.1双深度策略
通过两个层次的评分机制来评估每个样本在整个训练过程中的贡献。
1.2内层评分
通过将样本的梯度投影到累积梯度的方向上，估计每个样本在每个训练周期的实际贡献。
1.3外层评分
基于内层评分计算的样本贡献的变异性，识别泛化能力良好的样本。
1.4移动窗口策略
为了提高效率，使用移动窗口来计算每个样本在固定窗口内的贡献和变异性。
1.5重要性感知的核心集训练
在核心集训练中，根据样本的重要性分数对样本进行加权，以保持相对的样本重要性。
2.创新点
2.1双深度评分机制
TDDS通过内外两层评分机制，不仅考虑了训练过程中的动态变化，还特别强调了样本的泛化能力，这在以往的数据集剪枝方法中往往被忽视。
2.2投影梯度估计
通过将样本梯度投影到累积梯度方向上，TDDS能够更准确地评估样本在当前优化上下文中的有效贡献，这是对传统基于瞬时梯度的方法的重要改进。
2.3移动窗口和指数移动平均（EMA）
为了提高计算效率和处理大规模数据集，TDDS引入了移动窗口和EMA策略，减少了存储负担并提高了计算速度。
2.4重要性感知训练
TDDS在核心集训练中考虑了样本的重要性，这有助于在剪枝数据集上保持与完整数据集相似的训练动态，从而提高了剪枝后模型的性能。
论文链接：https://arxiv.org/pdf/2311.13613
需要的同学扫码添加我
回复“时间序列20”即可全部领取
