循环神经网络族的域泛化分析与方法
机器学习
2026-01-14 v1
摘要
深度学习（DL）推动了跨科学与工程领域的广泛进展。尽管取得了显著成果，DL模型常表现出可解释性和泛化性有限，这可能削弱信任，尤其是在安全关键部署场景中。因此，越来越多的人关注（i）分析可解释性与泛化性，（ii）开发在训练时未见过的数据分布下仍能稳健运行的模型（即域泛化）。然而，DL的理论分析仍不完整。例如，许多泛化分析假设样本独立，而序列数据中存在时间相关性，违反了这一假设。针对这些局限性，本文提出了一种方法，用于分析循环神经网络（RNN）族的可解释性与跨域（OOD）泛化。具体而言，建模训练后RNN状态的演化为一种未知的、离散时间的、非线性闭环反馈系统。基于库伯曼算子理论，将这些非线性动力学用线性算子近似，从而实现可解释性。随后进行谱分析，以量化域迁移对泛化误差的最大影响。基于此分析，提出了一种域泛化方法，以减少OOD泛化误差并提高对分布迁移的鲁棒性。最后，在实际的时间模式学习任务中验证了所提出的分析方法和域泛化方法的有效性。
引用
@article{arxiv.2601.08122,
title = {Generalization Analysis and Method for Domain Generalization for a Family of Recurrent Neural Networks},
author = {Atefeh Termehchi and Ekram Hossain and Isaac Woungang},
journal= {arXiv preprint arXiv:2601.08122},
year = {2026}
}