最坏情况训练的两个维度及其对域外泛化的综合效应
机器学习
2022-04-12 v1 计算机视觉与模式识别
摘要
强调数据中“难以学习”组成部分的训练已被证明是提升机器学习模型泛化能力的有效方法,尤其在重视鲁棒性(如跨分布泛化)的场景中。现有讨论该“难以学习”概念的文献主要沿样本维度或特征维度展开。本文旨在引入一种融合这两个维度的简洁视角,从而产生一种通过同时强调样本维度和特征维度上的最坏情况来训练机器学习模型的简单而有效的新启发式方法。我们依“两维度最坏情况”概念将方法命名为W2D。我们验证了该想法并在标准基准上展示了其实证优势。
引用
@article{arxiv.2204.04384,
title = {The Two Dimensions of Worst-case Training and the Integrated Effect for Out-of-domain Generalization},
author = {Zeyi Huang and Haohan Wang and Dong Huang and Yong Jae Lee and Eric P. Xing},
journal= {arXiv preprint arXiv:2204.04384},
year = {2022}
}
备注
to appear at CVPR2022