Optimal Multiclass U-Calibration Error and Beyond
机器学习
2024-05-31 v1 机器学习
摘要
我们考虑在线多类U校准问题,其中预测者需对K类别进行序列分布性预测,以实现低U校准误差,即同时对所有有界proper损失保持低后悔。Kleinberg等人(2023)开发了一种算法,其U校准误差为O(K√T),并提出了是否存在最优界限的开放问题。我们通过展示最优U校准误差为Θ(√KT)来解决该问题——我们首先给出一个简单观察,即Daskalakis和Syrgkanis(2016)的Follow-the-Perturbed-Leader算法达到了该上界,随后构建了一个匹配的下界,该下界采用特定proper损失构造(作为副结果,也证明了Daskalakis和Syrgkanis(2016)算法在对有限选择对手进行在线学习中的最优性)。我们还在对损失函数的自然假设下加强了结果,包括对Lipschitz proper损失的Θ(log T) U校准误差、对某类可分解proper损失的O(log T) U校准误差、对proper损失低覆盖数的U校准误差界限等。
引用
@article{arxiv.2405.19374,
title = {Optimal Multiclass U-Calibration Error and Beyond},
author = {Haipeng Luo and Spandan Senapati and Vatsal Sharan},
journal= {arXiv preprint arXiv:2405.19374},
year = {2024}
}