一种用于处理不平衡数据集的非对称对比损失
机器学习
2022-09-28 v1 计算机视觉与模式识别
信息论
math.IT
机器学习
摘要
对比学习是一种表示学习方法，通过将样本与其他相似样本进行对比，使它们在特征空间中聚集形成簇。该学习过程通常采用两阶段训练架构，并利用对比损失（CL）进行特征学习。对比学习已被证明在处理不平衡数据集（某些类样本过多而另一些类样本过少）方面相当成功。然而，以往研究并未专门针对不平衡数据集修改 CL。本文中，我们引入 CL 的非对称版本，称为 ACL，以直接解决类不平衡问题。此外，我们提出非对称焦点对比损失（AFCL），作为 ACL 与焦点对比损失（FCL）的进一步推广。在 FMNIST 与 ISIC 2018 不平衡数据集上的结果表明，AFCL 在加权与未加权分类准确率上均优于 CL 与 FCL。附录中给出了关于熵的完整公理化处理及全部证明。
引用
@article{arxiv.2207.07080,
title = {An Asymmetric Contrastive Loss for Handling Imbalanced Datasets},
author = {Valentino Vito and Lim Yohanes Stefanus},
journal= {arXiv preprint arXiv:2207.07080},
year = {2022}
}
备注
15 pages, 5 figures