探索在线保守预测的噪声鲁棒性

保守预测是一种新兴的不确定性量化技术，通过构建在预定义概率下保证包含真实标签的预测集合来实现。近期研究发展出在线保守预测方法，能够适应分布迁移地动态构建预测集合。然而，现有算法通常假设标签完全准确，这在实际中几乎不成立。本文我们在已知噪声率的均匀标签噪声下，考察在常数和动态学习率计划下的在线保守预测鲁棒性。我们指出，标签噪声会导致实际误覆盖率与目标率 $\alpha$ 之间持续的差距，从而导致覆盖保证被高估或低估。为解决此问题，我们提出了噪声鲁棒在线保守预测方法（称之为 NR-OCP），通过更新阈值并采用新颖的稳健 pinball 损失来实现，该损失无需真实标签即可提供干净 pinball 损失的无偏估计。我们的理论分析表明，NR-OCP 在常数和动态学习率计划下均消除了覆盖差距，在均匀标签噪声下实现 $\mathcal{O}(T^{-1/2})$ 的收敛速度，用于经验覆盖误差和期望覆盖误差。大量实验表明，我们的方法通过实现精确的覆盖和改进的效率，显著有效。