TILT：协变量偏移下的目标诱导损失倾斜

我们引入并分析了协变量偏移下无监督域适应的目标诱导损失倾斜。它基于一个新的目标函数，该函数将源预测器分解为 $f+b$，在带标签的源数据上拟合 $f+b$，同时惩罚未标记目标输入上的辅助分量 $b$。最终拟合的 $f$ 作为最终目标预测器部署。在总体水平上，我们表明这种目标侧惩罚在总体水平上隐式地诱导了相对重要性加权，但是以一个对当前误差自局部化且对任意源-目标对（即使是支撑集不相交的那些）保持一致有界的估计量 $b^*_f$ 来表示的。我们证明了关于超额风险的一般有限样本预言不等式，并利用它为使用稀疏 ReLU 网络的训练提供端到端保证。在受控回归问题和偏移的 CIFAR-100 蒸馏上的实验表明，与仅源训练、精确重要性加权和相对密度比基线相比，TILT 提升了目标域性能，且对正则化参数具有稳定的依赖性。