关于 conformalized 回归效率的非渐近分析

conformal 预测提供具有覆盖保证的预测集。其信息性取决于其效率，通常通过预测集的预期大小来量化。先前关于 conformalized 回归效率的工作通常将 miscoverage 水平 $\alpha$ 视为固定常数。本文中，我们在对数据分布进行温和假设后，建立了 conformalized 分位回归和中位数回归通过 SGD 训练时，预测集长度偏离 oracle 区间长度的非渐近界限。我们的界限为 $\mathcal{O}(1/\sqrt{n} + 1/(\alpha^2 n) + 1/\sqrt{m} + \exp(-\alpha^2 m))$，捕捉了训练集大小 $n$、校准集大小 $m$ 以及 miscoverage 水平 $\alpha$ 之间效率的联合依赖性。结果识别了 $\alpha$ 不同取值范围内收敛率的相位转变，为分配数据以控制预测集长度超出量提供了指导。实证结果与我们的理论发现一致。