通过非交换性学习条件不变性

条件过滤掉特定领域随机变量作为干扰项的不变性学习算法，仅基于数据语义进行，而非基于被评估的目标领域。我们表明，学习条件不变性的一种可证明最优且样本高效的方法，是将不变性准则松弛为非交换地指向目标领域。在领域不对称的情况下，即当目标领域包含源领域缺失的语义相关信息时，跨领域平均最优的编码器 $\varphi^*$ 的风险严格下界于特定于目标的最优编码器 $\Phi^*_\tau$ 的风险。我们证明了非交换性引导优化朝向 $\Phi^*_\tau$ 而非 $\varphi^*$，将领域间的 $\mathcal{H}$-散度降至零，从而对目标风险产生更严格的界限。我们的理论和实验均表明，非交换不变性（NCI）可以利用源领域样本来满足学习 $\Phi^*_\tau$ 的样本复杂度需求，在领域自适应方面超越了最先进的不变性学习算法，有时提升幅度超过 $2\%$，接近预言机（oracle）的性能。实现代码可在 https://github.com/abhrac/nci 获取。