删失反馈下学习的泛化误差界
机器学习
2025-04-14 v3 机器学习
摘要
学习理论中的泛化误差界提供了算法在未见数据上表现的统计保证。本文刻画了由于删失反馈（即选择性标记偏差）导致的数据非独立同分布性对此类界的影响。删失反馈在许多现实世界的在线选择和分类任务（如招聘、贷款、推荐系统）中普遍存在，其中数据点的真实标签仅在做出有利决策（如接受候选人、批准贷款、展示广告）时才被揭示，否则保持未知。我们首先将著名的Dvoretzky-Kiefer-Wolfowitz (DKW)不等式（刻画从IID数据学习到的经验与理论数据分布CDF之间的差距）扩展到由于删失反馈导致的非IID数据问题。然后利用这个CDF误差界为在此类非IID数据上训练的分类器提供泛化误差保证的界。我们表明，现有的泛化误差界（未考虑删失反馈）未能正确捕捉模型的泛化保证，验证了我们界的必要性。我们进一步分析了（纯和有界）探索技术（近期文献提出作为缓解删失反馈的方法）在改进我们的误差界方面的有效性。总之，我们的发现说明了决策者应如何权衡加强算法的泛化保证与数据收集成本，当未来数据可用性受删失反馈限制时。
引用
@article{arxiv.2404.09247,
title = {Generalization Error Bounds for Learning under Censored Feedback},
author = {Yifan Yang and Ali Payani and Parinaz Naghizadeh},
journal= {arXiv preprint arXiv:2404.09247},
year = {2025}
}