SigGate: 通过签名基门机制增强循环神经网络
机器学习
2025-02-14 v1
摘要
本文提出一种新方法, 通过将路径签名纳入循环神经网络 (RNN) 的门控机制中来增强其性能. 该方法修改了长短期记忆 (LSTM) 和门控循环单元 (GRU) 架构, 将其忘记门和复位门替换为可学习的路径签名. 这些签名捕捉整个路径历史的几何特征, 为控制网络记忆中的信息流提供更丰富的背景. 这种修改使网络能够基于完整的历史背景而非仅当前输入和状态做出记忆决策. 通过实验研究, 我们证明了签名 LSTM (SigLSTM) 和签名 GRU (SigGRU) 模型在各种序列学习任务中均优于其传统对应物. 通过在循环结构中利用路径签名, 该方法为时间序列分析和预测应用提供了新的提升机会.
引用
@article{arxiv.2502.09318,
title = {SigGate: Enhancing Recurrent Neural Networks with Signature-Based Gating Mechanisms},
author = {Rémi Genet and Hugo Inzirillo},
journal= {arXiv preprint arXiv:2502.09318},
year = {2025}
}