CGLearn: 用于分布外泛化的一致梯度学习

提升泛化能力并构建高预测性、鲁棒的机器学习模型，需要学习感兴趣变量的潜在因果结构。一种突出且有效的方法是在多个环境中学习不变预测器。在本工作中，我们提出了一种简单而强大的方法 CGLearn，它依赖于不同环境之间梯度的一致性。这种一致性是可靠特征的强有力指示，而不一致性则表明由于潜在因果机制的差异而可靠性较低。我们提出的方法在线性和非线性设置下的各种回归与分类任务中均优于现有最先进方法。CGLearn 即使在没有独立环境的情况下也表现出鲁棒适用性，通过利用观测数据不同子样本间的不变性来实现。大量合成与真实数据集实验凸显了其在多样化场景中的有效性。我们的发现强调了利用梯度一致性学习因果不变性的重要性，为鲁棒机器学习领域迈出了重要一步。CGLearn 的线性和非线性实现的源代码已开源，地址为：https://github.com/hasanjawad001/CGLearn。