用于无偏长尾分类的跨域经验风险最小化
计算机视觉与模式识别
2021-12-30 v1 机器学习
摘要
我们指出已有长尾分类方法中被忽视的无偏性问题：我们发现其整体提升主要归因于对尾部相对于头部的偏置偏好，因为测试分布被假定为均衡的；然而，当测试与长尾训练数据一样不平衡——令测试遵从自然的Zipf定律——时，尾部偏置因损害头部多数类而不再整体有益。本文提出跨域经验风险最小化（xERM）以训练无偏模型，在两种测试分布上均取得强劲表现，其经验表明xERM通过学得更好的特征表示而非头部与尾部的博弈从根本上改善了分类。基于因果性，我们进一步从理论上解释xERM为何实现无偏性：由域选择引起的偏置通过对不平衡域与均衡但未见域上的经验风险进行调整而消除。代码见https://github.com/BeierZhu/xERM。
引用
@article{arxiv.2112.14380,
title = {Cross-Domain Empirical Risk Minimization for Unbiased Long-tailed Classification},
author = {Beier Zhu and Yulei Niu and Xian-Sheng Hua and Hanwang Zhang},
journal= {arXiv preprint arXiv:2112.14380},
year = {2021}
}