通过延迟在线到PAC转换实现混合过程的泛化界限
机器学习
2025-02-20 v3
摘要
我们研究了统计学习算法在非独立同分布情形下的泛化误差，其中训练数据来自平稳混合过程。我们基于减少到带延迟反馈的在线学习情形，构建了该情形的分析框架。特别地，我们证明了如果存在一个在带延迟反馈的在线学习游戏中，对固定统计学习算法具有有限后悔值的在线学习算法，那么即使数据序列来自混合时间序列，该统计学习方法也具有低泛化误差。这些结果揭示了在线学习游戏中的延迟程度与连续数据点之间的依赖程度之间的权衡，当延迟适当地调节为过程混合时间的函数时，可恢复多数已研究情形下的近最优速率。
引用
@article{arxiv.2406.12600,
title = {Generalization bounds for mixing processes via delayed online-to-PAC conversions},
author = {Baptiste Abeles and Eugenio Clerico and Gergely Neu},
journal= {arXiv preprint arXiv:2406.12600},
year = {2025}
}