校准距离的计算与统计硬度
数据结构与算法
2026-03-20 v1 机器学习
机器学习
摘要
校准距离由 B{\l}asiok、Gopalan、Hu 和 Nakkiran(STOC 2023)提出,最近成为概率预测器误校准的核心度量。我们研究了计算和估计这一量的基本问题,给定确切的数据分布或仅对其进行样本访问。我们给出一种高效算法,准确计算当分布具有均匀边际且标签无噪声时的校准距离,这改进了 Qiao 和 Zheng(COLT 2024)对于该特殊情况的 加法近似。或许出乎意料的是,在移除这两个假设中的任何一个后,该问题变得 -hard。我们将我们的算法推广到一般情况下的多项式时间近似方案。对于估计问题,我们证明需要 个样本,才能将经验校准距离上界为真实距离加上 。相比之下,学习基线所致的对域大小的多项式依赖不可避免,这适用于双侧估计。我们的正向结果基于分布和目标预测器的简单稀疏化,这显著减少了计算的搜索空间,并导致估计问题的更强集中。为了证明硬度结果,我们引入了新的技术,用于证明校准距离的下界 —— 这一问题由于其 -complete 的本质在一般情况下是困难的。
引用
@article{arxiv.2603.18391,
title = {Computational and Statistical Hardness of Calibration Distance},
author = {Mingda Qiao},
journal= {arXiv preprint arXiv:2603.18391},
year = {2026}
}