统一协变量与概念漂移的可估计学习界限

在分布漂移下进行泛化是现代机器学习中的核心挑战，但现有学习界限理论仅适用于狭窄理想化场景且无法从样本中估计。本文弥合了理论与实际应用之间的鸿沟。我们首先指出，现有界限变得松散且不可估计，原因在于其概念漂移定义在源和目标支持不匹配时会失效。基于信息论最优传输，我们提出面向支持无关性的协变量和概念漂移新定义，并推导出适用于广泛损失函数、标签空间和随机标记的新型统一误差界限。我们进一步开发了这些漂移的估计器，并具备浓度保证，同时提出DataShifts算法，可在大多数实际应用中量化分布漂移并估计误差界——这是一个严谨且通用的工具，用于分析机器学习中的学习误差。