时间序列数据流形的微分同胚：实现深度学习中的平移不变性

深度学习模型缺乏平移不变性，使得它们对输入的平移敏感，导致输出发生变化。虽然最近的技术试图解决这个问题，但针对图像的方法在时间序列上却未能提供平移不变性，因为数据生成机制更为复杂，涉及低频和高频的相互作用。更糟糕的是，这些方法还会降低多个任务上的性能。本文提出了一种新颖的可微可双射函数，将来自高维数据流形的样本映射到维数相同的另一个流形中，无需任何维度约化。我们的做法保证在样本受到随机平移时被映射到流形中的唯一点，同时在不损失任何任务相关信息的前提下保持所有信息。我们在理论和实验方面证明，所提转换保证了深度学习模型在平移上的不变性，且不对平移施加任何限制。我们在六个时间序列任务上使用最新方法进行实验，结果表明我们的方法在持续提高性能的同时，使模型能够在不修改或施加限制模型拓扑结构的前提下实现完全平移不变性。源码可在 GitHub 上获取。