Decorr:用于不变学习与分布外泛化的环境划分方法
机器学习
2024-05-24 v2
摘要
旨在多个环境中识别一致预测器的不变学习方法,在分布外(OOD)泛化中日益受到重视。然而,当数据本身不自带环境时,实践者必须手动定义环境。这种环境划分——即以算法将训练数据集分割为若干环境——对不变学习的效能具有关键影响,却鲜有讨论。恰当的环境划分可拓展不变学习的适用性并提升其性能。本文提出通过隔离低相关性数据子集将数据集划分为若干环境。借助合成与真实数据的实验,我们的 Decorr 方法在与不变学习结合时展现出优越性能。Decorr 缓解了伪相关的问题,有助于识别稳定预测器,并拓宽了不变学习方法的应用范围。
引用
@article{arxiv.2211.10054,
title = {Decorr: Environment Partitioning for Invariant Learning and OOD Generalization},
author = {Yufan Liao and Qi Wu and Zhaodi Wu and Xing Yan},
journal= {arXiv preprint arXiv:2211.10054},
year = {2024}
}