光滑校准的重要性
机器学习
2026-03-18 v1 数据结构与算法
摘要
最近的研究强调了光滑校准 [Kakade and Foster, 2008] 作为鲁棒校准误差度量的核心地位。我们对此进行了推广、统一和扩展，既将其作为鲁棒校准度量，也作为通向全预测（omniprediction）的一步。我们提出了一种新的全预测保证，适用于所有有界proper loss 的类别。我们通过向预测器添加一些噪声来实现平滑化，并在空间中与任何基准预测器的平滑版本进行竞争，其中我们添加一些噪声后对其进行任意后处理。全预测误差由预测器的光滑校准误差和与最近完美校准的联合分布（预测与标签）之间的地毯移动距离（earth mover's distance）界定。我们展示了实例，说明这种依赖关系在一般情况下无法改进。我们说明了这如何统一并扩展了先前关于从光滑校准获得全预测的结果 [Foster and Vohra, 1998; Hartline, Wu, and Yang, 2025]。我们提出了光滑校准的一种清晰新表征，称为地毯移动距离到最近完美校准的联合分布（预测与标签）。这也为更简洁地证明与 [Blasiok, Gopalan, Hu, and Nakkiran, 2023] 中下距离到校准的关系提供了证明。我们用此来表明上距离到校准不能在样本复杂度独立于预测支持规模的条件下以二次因子估计。与距离到校准相比，后者已知在信息论上是不可能的：没有有限数量的样本就足够 [Blasiok, Gopalan, Hu, and Nakkiran, 2023]。
关键词
引用
@article{arxiv.2603.16015,
title = {The Importance of Being Smoothly Calibrated},
author = {Parikshit Gopalan and Konstantinos Stavropoulos and Kunal Talwar and Pranay Tankala},
journal= {arXiv preprint arXiv:2603.16015},
year = {2026}
}