黑曼会议的保率化简
机器学习
2024-07-18 v2 机器学习
摘要
Abernethy等人(2011)证明，黑曼会议和无偏学习是等价的，即解决特定黑曼会议实例的任何算法都可以转换为解决特定无偏学习实例的次线性后悔算法，反之亦然。在本文中，我们研究更细粒度的此类化简，询问在这种转换过程中，是否可以保持最佳收敛率的保率。也就是说，在何种情况下，仅仅找到无偏学习实例的最优后悔界就足以找到相应会议实例的最优收敛率？我们证明，Abernethy等人(2011)的化简不会保率：他们的化简可能将一个d维的会议实例I1，其最优收敛率为R1，转化为一个无偏学习实例I2，其最优每轮后悔为R2，其中R2/R1可以任意大（特别是可能R1=0且R2>0）。另一方面，我们证明可以紧密地将任何会议实例化简为一种称为不正式φ后悔最小化的通用形式（是Gordon等人(2008)的φ后悔最小化的一个变种，其中转换函数可能将动作映射到动作集之外）。最后，我们描述了线性变换何时可以保率地将不正式φ后悔最小化问题简化为标准的后悔最小化问题的类。我们证明，有些不正式φ后悔最小化实例无法以这种方式简化为上述两种子类中的任何一个，这表明会议可以捕获一些无法以在线学习语言中表述的问题。
引用
@article{arxiv.2406.07585,
title = {Rate-Preserving Reductions for Blackwell Approachability},
author = {Christoph Dann and Yishay Mansour and Mehryar Mohri and Jon Schneider and Balasubramanian Sivan},
journal= {arXiv preprint arXiv:2406.07585},
year = {2024}
}