共形预测中调优偏差的参数化标度律

共形预测是一种流行的不确定性量化框架，它构建具有覆盖率保证的预测集。为了维持可交换性假设，许多共形预测方法需要一个额外的保留集用于参数调优。然而，违反这一原则对覆盖率的影响仍未得到充分探索，使得其在实际应用中存在模糊性。在这项工作中，我们通过实验发现，对于许多共形预测方法中的简单参数调优而言，调优偏差——即利用同一数据集进行调优和校准所引入的覆盖率差距——是可以忽略的。特别地，我们观察到了调优偏差的标度律：该偏差随参数空间复杂度的增加而增大，并随校准集大小的增加而减小。形式上，我们建立了一个理论框架来量化调优偏差，并通过推导其上界，为调优偏差的标度律提供了严格的证明。最后，我们基于所发展的理论，讨论了如何减少调优偏差。