单点转导预测

监督学习中的标准方法将训练与预测分离：模型的拟合独立于其可能遇到的任何测试点。然而，能否利用下一个测试点 $\mathbf{x}_{\star}$ 的知识来提高预测精度？我们在线性预测的背景下解决这一问题，展示如何转导式地利用半参数推断技术来对抗正则化偏差。我们首先对岭回归和 Lasso 的 $\mathbf{x}_{\star}$ 预测误差给出下界，表明它们在某些测试方向上必然产生显著偏差。然后我们给出两种转导预测规则的 $\mathbf{x}_{\star}$ 预测误差的非渐近上界。最后，我们在合成数据和真实数据上展示了我们方法的有效性，突出了在存在分布偏移的设置中单点转导预测所能带来的改进。