从统一视角探究长尾识别的本质

随着数据规模增长，深度识别模型常因各类别间样本数严重不平衡而受制于长尾数据分布。实际上，真实世界数据在不同类别间通常表现出某种相似关系（如鸽子与麻雀），本文称之为类别相似性。当这种外观相似的类别间出现不平衡时，问题难上加难。然而，现有解法主要关注样本数以重新平衡数据分布。本文中，我们从统一视角系统探究长尾问题的本质。具体而言，我们证明长尾识别同时受样本数与类别相似性影响。直观地，借助一个玩具示例，我们首先表明样本数并非长尾识别性能下降的唯一影响因素。理论上，我们证明：(1) 类别相似性作为不可避免的因素，也会通过相似样本影响长尾分布下的模型学习；(2) 使用更具判别性的表示方法（如自监督学习）降低相似性，可进一步缓解分类器偏置并大幅提升性能。在多个长尾数据集上的大量实验验证了理论分析的合理性，并表明在现有最优方法（SOTA）基础上，通过相似性降低可进一步提升性能。我们的探究揭示了长尾问题背后的本质，并指出若干可行的未来工作方向。