插值学习系统的函数空间稳定性边界及其在泛化中的应用
机器学习
2026-02-12 v2 最优化与控制
机器学习
摘要
现代学习系统常在插值训练数据的情况下仍能良好泛化，但究竟何时算法稳定性能解释这一现象仍不清晰。我们将训练建模为函数空间轨迹，沿该轨迹衡量对单个样本扰动的灵敏度。我们提出了收缩传递条件，并通过展开递归获得稳定性证书。小证书意味着基于稳定性的泛化，而我们也证明存在插值 regime 在风险较小时，此类收缩灵敏度无法成立，表明稳定性并非普遍解释。实验确认，证书增长可预测优化器、步长和数据集扰动之间的泛化差异。该框架因此识别了稳定性解释泛化的 regime 以及必须用其他机制解释成功的 regime。
引用
@article{arxiv.2602.03514,
title = {A Function-Space Stability Boundary for Generalization in Interpolating Learning Systems},
author = {Ronald Katende},
journal= {arXiv preprint arXiv:2602.03514},
year = {2026}
}