关于扰动下算法收敛性的系统论视角
机器学习
2025-12-22 v1 最优化与控制
机器学习
摘要
算法日益在复杂的物理、社会和工程系统中运行,这些系统会向算法暴露于扰动、噪声以及与其他动力系统的相互作用中。本文扩展了已知在无扰动情况下(即算法孤立运行)的收敛保证,并系统推导了在此类扰动存在下的稳定性界限和收敛速率。通过利用逆Lyapunov定理,我们派生出关键不等式,以量化扰动的影响。进一步地,我们展示了本结果可如何被用于评估扰动对算法在广泛应用场景中性能的影响,包括分布式学习中的通信约束、机器学习泛化中的灵敏度以及针对隐私的故意噪声注入。这为算法在噪声、扰动以及与其他动力系统相互作用时分析提供了统一的工具。
关键词
引用
@article{arxiv.2512.17598,
title = {A Systems-Theoretic View on the Convergence of Algorithms under Disturbances},
author = {Guner Dilsad Er and Sebastian Trimpe and Michael Muehlebach},
journal= {arXiv preprint arXiv:2512.17598},
year = {2025}
}