转导共形预测中效率-置信度权衡的基本界限
机器学习
2025-09-08 v1 信息论
math.IT
机器学习
摘要
转导共形预测同时处理多个数据点的预测问题。给定所需的置信水平，目标是构建一个包含真实结果的预测集。我们证明了转导方法中置信度与效率之间存在基本权衡，其中效率由预测集的大小来衡量。具体而言，我们推导了一个严格的有限样本界，表明任何非平凡的置信水平都会导致具有固有不确定性的数据的预测集规模呈指数增长。该指数与样本数量呈线性关系，并与数据的条件熵成正比。此外，该界包含一个二阶项——离散度，定义为对数条件概率分布的方差。我们证明该界在理想化设定下是可以达到的。最后，我们考察了转导预测的一个特殊情况，即所有测试数据点共享同一标签。我们证明该场景可归结为具有经验统计量的假设检验问题，并提供了一个渐近最优的置信预测器，以及对误差指数的分析。
引用
@article{arxiv.2509.04631,
title = {Fundamental bounds on efficiency-confidence trade-off for transductive conformal prediction},
author = {Arash Behboodi and Alvaro H. C. Correia and Fabio Valerio Massoli and Christos Louizos},
journal= {arXiv preprint arXiv:2509.04631},
year = {2025}
}