用于生物医学与生物声学信号分析中时序建模增强的并行延迟记忆单元

先进的深度学习架构，特别是循环神经网络（RNN），已被广泛应用于音频、生物声学和生物医学信号分析，尤其是在数据稀缺的环境中。虽然门控 RNN 仍然有效，但它们在某些情况下可能相对过参数化且训练效率较低，而线性 RNN 往往在捕捉生物信号固有复杂性方面不足。为了应对这些挑战，我们提出了并行延迟记忆单元（PDMU），一种针对音频和生物声学信号的{用于短期时序信用分配的延迟门控状态空间模块}，通过门控延迟线机制增强短期时序状态交互和记忆效率。与将时序动力学嵌入延迟线架构的先前延迟记忆单元（DMU）不同，PDMU 进一步使用勒让德记忆单元（LMU）将时序信息压缩为向量表示。这种设计充当一种因果注意的形式，允许模型动态调整其对过去状态的依赖并改善实时学习性能。值得注意的是，在低信息场景中，门控机制类似于跳过连接，通过绕过状态衰减和保留早期表示来促进长期记忆保持。PDMU 是模块化的，支持并行训练和顺序推理，并且可以轻松集成到现有的线性 RNN 框架中。此外，我们引入了该架构的双向、高效和脉冲变体，每个变体在性能或能效方面提供了额外的增益。在多样化音频和生物医学基准上的实验结果表明，PDMU 显著增强了记忆容量和整体模型性能。