TLDR
• 全新深度学习模型 xLSTM-TS 横空出世，预测股市趋势准确率碾压 Transformer 和状态空间模型！
• 小波降噪技术加持，模型预测精准度再上一层楼！
• xLSTM-TS 模型巧妙融合指数门控和新型内存结构，轻松拿下长期依赖关系，在性能和扩展性方面均表现出色！
解码股市：一场没有硝烟的预测之战
股市，这个充满着机遇和挑战的金融战场，吸引着无数投资者为之疯狂。谁能精准预测股市的未来走势，谁就能在这场没有硝烟的战争中赢得财富和荣耀。然而，股市波动莫测，想要准确预测其趋势，如同破解天机一般困难。
长久以来，人们用尽各种方法试图预测股市，从古老的占星术到现代的统计模型和机器学习方法，但预测结果往往差强人意。传统的统计模型，例如 ARIMA，虽然简单易用，但难以捕捉股市数据的复杂模式，预测准确率有限。
深度学习技术的兴起，为股市预测带来了新的曙光！深度学习模型强大的学习能力和对复杂模式的捕捉能力，使其成为替代传统方法的有力工具。LSTM 模型在 2017 年之前一直是序列建模任务，比如文本生成领域最强大的模型，直到 Transformer 的出现。但 Transformer 的并行化能力是以牺牲对状态跟踪能力为代价的，使其无法处理一些需要记忆信息的任务，比如形式语言识别。
本文将带你走进深度学习的世界，深入探讨一种名为 xLSTM-TS 的新型深度学习模型，并揭示 小波降噪技术 如何进一步提升其预测精度。最终，我们将展示 xLSTM-TS 模型如何在股市预测中脱颖而出，成为解码股市“天机”的利器！
LSTM 的复兴：xLSTM-TS 模型
LSTM 的辉煌与局限
LSTM (长短期记忆网络) 是一种特殊的循环神经网络 (RNN)，能够学习长期依赖关系。它在 20 世纪 90 年代被提出，并迅速成为自然语言处理、语音识别和时间序列预测等领域的强大工具。
然而，随着 Transformer 的出现，LSTM 逐渐淡出了人们的视野。Transformer 凭借其并行化能力和强大的表达能力，在许多任务上取得了比 LSTM 更好的性能。但是，Transformer 并不完美，它在处理一些需要状态跟踪的任务时，例如形式语言识别，表现不如 LSTM。
为了克服 LSTM 的局限性，并使其能够与 Transformer 等模型竞争，研究人员提出了许多改进方法。其中，xLSTM-TS 模型脱颖而出，展现了其在预测股市趋势方面的强大能力。
xLSTM-TS ：扩展的 LSTM，更强大的性能
xLSTM-TS 模型是对传统 LSTM 的扩展，它引入了两个主要的改进：指数门控 和 新型内存结构。这些改进使得 xLSTM-TS 模型能够更好地捕捉长期依赖关系，并提高了模型的效率。
指数门控：增强“记忆力”，捕捉长期趋势
传统的 LSTM 模型使用 sigmoid 函数作为门控函数，这会导致梯度消失问题，限制了模型学习长期依赖关系的能力。xLSTM-TS 模型引入了指数门控机制，使用指数函数代替 sigmoid 函数，有效地解决了这个问题。
指数函数的梯度不会像 sigmoid 函数那样在接近 0 或 1 时变得非常小，这使得模型能够更好地学习长期依赖关系。
新型内存结构：提升“反应速度”，加速学习
xLSTM-TS 模型引入了两种新的内存结构：sLSTM 和 mLSTM。
• sLSTM（标量 LSTM）： 使用标量值表示 LSTM 单元的记忆状态，简化了内存管理，提高了模型的计算效率。此外，sLSTM 还引入了一种新的记忆混合技术，可以更好地利用多个记忆单元的信息。sLSTM 可以拥有多个记忆单元，并通过循环连接实现记忆混合，这使得模型能够更好地捕捉时间序列数据中的复杂模式。此外，sLSTM 还可以拥有多个头，每个头都有自己的记忆单元和记忆混合机制，这使得模型能够并行地处理多个时间尺度上的信息。
• mLSTM（矩阵 LSTM）： 使用矩阵表示 LSTM 单元的记忆状态，并使用协方差更新规则进行更新，这使得模型能够完全并行化，进一步提高了计算效率。mLSTM 使用矩阵来表示记忆状态，并使用协方差更新规则进行更新。这使得 mLSTM 能够存储比传统 LSTM 更多的信息，并且可以并行地进行训练，从而提高了模型的效率和性能。
xLSTM-TS 模型架构
xLSTM-TS 模型的架构与 Transformer 类似，它也是由多个残差块堆叠而成。每个残差块包含一个 sLSTM 或 mLSTM 单元，以及一些其他的组件，例如线性层、层归一化层和激活函数。
xLSTM-TS 模型的架构设计充分考虑了内存和速度的平衡。与 Transformer 相比，xLSTM-TS 模型的计算复杂度和内存复杂度都更低，这使得它更适合于处理长序列数据。
小波变换：拨开迷雾，洞察真相
小波变换是一种强大的信号处理工具，它可以帮助我们更好地理解和分析股市数据。它就像一把“魔法钥匙”，能够打开隐藏在数据背后的“秘密”。
小波变换的“魔法”在于它能够同时在时域和频域分析信号。传统的傅里叶变换只能分析信号的频率成分，而无法确定这些成分出现的时间。小波变换则可以同时分析信号的时频特征，让我们能够更全面地了解信号的特性。
在股市预测中，小波降噪技术可以有效去除股市数据中的噪声，提高模型的预测精度。我们将小波降噪技术应用于 xLSTM-TS 模型的训练数据，结果显示模型的预测准确率显著提升，F1 分数最高可达 73.16%。下图展示了小波变换对 S&P 500 每日收盘价的分解过程，去噪后的数据更加平滑，信噪比更高。
xLSTM-TS 模型实战：预测美股和巴西股市
为了验证 xLSTM-TS 模型的预测能力，我们选取了美股和巴西股市的数据，并将其与 Transformer 和状态空间模型进行了比较。
• S&P 500 指数: 美国股市的重要指标，被广泛用于股市预测研究。
• 巴西 ETF EWZ: 追踪巴西股市中型公司的表现，具有较高的波动性，更具预测挑战性。
性能指标大比拼：xLSTM-TS 表现亮眼
我们使用了多种指标来评估模型的预测性能，包括 MAE、RMSE、RMSSE、MASE 等。实验结果表明，xLSTM-TS 模型在多个数据集和多种评估指标上都表现出优异的性能，其预测结果与实际值之间的偏差最小，且预测准确率显著优于朴素预测方法。xLSTM-TS 模型在性能上优于最先进的 Transformer 和状态空间模型，无论是在性能还是在扩展性方面。下表展示了各个模型在不同数据集上的预测结果。
方向预测：xLSTM-TS 继续领跑
除了预测具体的数值，我们还评估了模型预测股市上涨或下跌方向的准确性。下表展示了各个模型在方向预测方面的指标。
xLSTM-TS 在方向预测上也表现出色，特别是在 S&P 500 指数的预测上，其测试准确率和 F1 分数均高于其他模型。这再次证明了 xLSTM-TS 模型在股市趋势预测方面的强大能力。
谁是股市预测的王者？
经过多轮测试，深度学习模型的预测能力已经展露无遗。xLSTM-TS 模型凭借其优异的性能，成为了这场预测之战的王者。
xLSTM-TS：性能卓越，技压群雄
实验结果表明，xLSTM-TS 模型在多个数据集和多种评估指标上都表现出优异的性能，这与其独特的架构设计密不可分。
• 指数门控: 有效解决了 LSTM 模型处理长期依赖关系的难题，使其能够更好地捕捉股市数据的长期趋势。
• 新型内存结构: 提高了模型的并行性和效率，使其能够更快地学习和适应股市数据的变化。
小波降噪：不可或缺的“神助攻”
小波降噪技术对提高模型预测准确率至关重要。实验结果显示，在使用原始数据进行训练时，模型的预测准确率接近随机猜测。而经过小波降噪处理后，模型的预测准确率显著提升，F1 分数最高可达 73.16%。下图展示了 xLSTM-TS 模型在 S&P 500 数据集上的预测结果，其中圆圈表示模型正确预测了价格走势，而叉号表示预测错误。可以看出，经过小波去噪处理后，模型的预测准确率得到了显著提升。
没有“万能钥匙”，只有“最优解”
实验结果也表明，不同模型的预测性能存在差异，没有哪种模型可以“通吃”所有数据集和时间范围。例如，TiDE 模型在 EWZ 小时数据上的表现优于 xLSTM-TS，而 TCN 模型在 S&P 500 每日数据上的表现也相当不错。这说明在实际应用中，需要根据具体的数据特征和预测目标选择合适的模型。
未来之路：深度学习开启股市预测新时代
深度学习技术的出现，为股市预测带来了前所未有的机遇。未来研究可以进一步探索以下方向：
• 扩展应用范围: 将模型应用于更广泛的金融市场，例如外汇、期货等。
• 增强模型鲁棒性: 提高模型在极端市场条件下的预测能力。
• 优化模型架构: 探索更先进的深度学习架构，进一步提升预测准确率。
• 特征工程: 引入更多相关特征，例如宏观经济指标、公司财务数据等，以提高模型的预测能力。
相信随着深度学习技术的不断发展，我们将能够更准确地预测股市趋势，在金融市场中赢得更大的胜利！
相关链接
• [An Evaluation of Deep Learning Models for Stock Market Trend Prediction]https://arxiv.org/pdf/2405.04517
• [xLSTM: Extended Long Short-Term Memory] https://arxiv.org/pdf/2405.04517
