利用 XRM 发现环境
机器学习
2024-07-22 v2 人工智能
机器学习
摘要
环境标注对于许多分布外(OOD)泛化方法的成功至关重要。遗憾的是,这些标注获取成本高,且常受人类标注者偏见的限制。为实现鲁棒泛化,必须开发能在数据集中自动发现环境的算法。现有基于训练误差划分样本的方法存在一个根本问题:它们引入超参数与早停准则,而这需要一个带人工标注环境的验证集——恰是待发现的信息。本文提出交叉风险最小化(Cross-Risk-Minimization, XRM)以解决该问题。XRM 训练孪生网络,各自从训练数据的一半随机子集中学习,同时模仿其兄弟网络在留出样本上做出的高置信度错误。XRM 提供了超参数调优方案,无需早停,且能为所有训练与验证数据发现环境。基于 XRM 环境构建的算法达到了最优最差组准确率(oracle worst-group-accuracy),解决了 OOD 泛化中长期存在的挑战。代码见 \url{https://github.com/facebookresearch/XRM}。
引用
@article{arxiv.2309.16748,
title = {Discovering environments with XRM},
author = {Mohammad Pezeshki and Diane Bouchacourt and Mark Ibrahim and Nicolas Ballas and Pascal Vincent and David Lopez-Paz},
journal= {arXiv preprint arXiv:2309.16748},
year = {2024}
}
备注
Oral at ICML 2024