从等价查询中学习 Revisited
机器学习
2026-04-07 v1 计算复杂性
信息论
math.IT
摘要
现代机器学习系统，如生成模型和推荐系统，通常通过部署、用户交互和定期模型更新的循环演进。这与标准监督学习框架不同，后者关注在固定预测任务序列上的损失或遗憾最小化。受此设置启发，我们重新审视Angluin(1988)提出的经典等价查询学习模型。在该模型中，学习者反复提出假设，当部署的假设不充分时接收反例。然而，在完全对抗性的反例生成下，该模型可能过于悲观。此外，大多数先前工作假设全信息设置，即学习者也观察反例的正确标签，这一假设并非总是自然成立。我们通过将环境限制在一类广泛的对抗性较弱的反例生成器（称为对称生成器）来解决这些问题。非正式地说，此类生成器仅基于假设与目标之间的对称差来选择反例。该类涵盖了自然机制，如随机反例(Angluin和Dohrn, 2017; Bhatia, 2021; Chase, Freitag和Reyzin, 2024)，以及根据预设复杂度度量返回最简单反例的生成器。在该框架下，我们研究了在全信息和Bandit反馈两种设置下从等价查询中学习。我们在两种设置下均获得了学习轮数的紧界，并指出了未来研究方向。我们的分析结合了对称对抗者的博弈论视角与自适应加权方法和极小极大论证。
引用
@article{arxiv.2604.04535,
title = {Learning from Equivalence Queries, Revisited},
author = {Mark Braverman and Roi Livni and Yishay Mansour and Shay Moran and Kobbi Nissim},
journal= {arXiv preprint arXiv:2604.04535},
year = {2026}
}