兑现 LSTM 未竟的承诺
机器学习
2019-12-11 v4 计算金融
投资组合管理
机器学习
摘要
LSTM 向金融时间序列分析、时序与横截面推断许诺良多，但我们发现其在真实世界的金融管理任务中并未兑现。我们考察了一种称为持续学习（Continual Learning, CL）的替代方案，一种记忆增强方法，其可提供透明的解释，即哪个记忆在何时做了什么。本工作对包括信贷、决策中时变公平性等诸多金融应用具有启示。我们作出三个重要的新观察。首先，时序 CL 方法不仅更具可解释性，且优于 LSTM 以及使用前馈神经网络（FFNN）的简单滑动窗口学习器。其次，我们表明基于滑动窗口学习器（FFNN）的 CL 比基于序列学习器（LSTM）的 CL 更有效。第三，我们考察真实世界时序噪声如何影响 CL 记忆寻址中使用的若干相似性方法。我们使用一种称为持续学习增强（Continual Learning Augmentation, CLA）的方法，在新兴市场股票投资决策这一复杂真实世界问题上给出这些见解。CLA 提供了一个测试平台，因为它可基于不同类型的时间序列学习器，从而允许 LSTM 与 FFNN 学习器并肩测试。CLA 还用于测试记忆召回门中使用的若干距离方法：欧氏距离（ED）、动态时间规整（DTW）、自编码器（AE）以及一种新颖的混合方法 warp-AE。我们发现 ED 表现不及 DTW 与 AE，但 warp-AE 在真实世界金融任务中展现出最佳整体性能。
引用
@article{arxiv.1911.04489,
title = {Making Good on LSTMs' Unfulfilled Promise},
author = {Daniel Philps and Artur d'Avila Garcez and Tillman Weyde},
journal= {arXiv preprint arXiv:1911.04489},
year = {2019}
}
备注
33rd Conference on Neural Information Processing Systems (NeurIPS 2019), Vancouver, Canada. arXiv admin note: text overlap with arXiv:1812.02340