ZLPR:一种用于多标签分类的新损失函数
机器学习
2022-08-08 v1 计算与语言
摘要
在深度学习时代,损失函数决定了模型与算法可用的任务范围。为支持深度学习在多标签分类(MLC)任务中的应用,本文提出 ZLPR(zero-bounded log-sum-exp 与基于成对排序的)损失。相较于其他用于 MLC 的基于排序的损失,ZLPR 能处理目标标签数量不确定的问题,从这一点看,使其与 MLC 中另两种常用策略即二元相关性(BR)与标签幂集(LP)具有同等能力。此外,ZLPR 考虑了标签间的相关性,使其比 BR 方法更为全面。在计算复杂度方面,ZLPR 可与 BR 方法竞争,因为其预测同样是标签独立的,从而比 LP 方法耗时更少、占用内存更小。我们的实验在多个基准数据集与多个评价指标上证明了 ZLPR 的有效性。此外,我们提出了 ZLPR 的软版本及相应的 KL 散度计算方法,使得可应用标签平滑等正则化技巧以增强模型的泛化能力。
引用
@article{arxiv.2208.02955,
title = {ZLPR: A Novel Loss for Multi-label Classification},
author = {Jianlin Su and Mingren Zhu and Ahmed Murtadha and Shengfeng Pan and Bo Wen and Yunfeng Liu},
journal= {arXiv preprint arXiv:2208.02955},
year = {2022}
}