中文

重新思考平均精度优化:仅惩罚正例之前的负例已足够

信息检索 2022-05-10 v4 人工智能

摘要

平均精度(AP)近似的优化在图像检索中已被广泛研究。受AP定义的限制,此类方法同时考虑排在每个正例之前的负例和正例。然而,我们指出仅惩罚正例之前的负例已足够,因为损失仅来自这些负例。为此,我们提出了一种新颖的损失函数,即惩罚正例之前的负例(PNP),它可直接最小化每个正例之前的负例数量。此外,基于AP的方法采用固定且次优的梯度分配策略。因此,我们通过构造损失的导数函数系统地研究了不同的梯度分配方案,得到了具有递增导数函数的PNP-I和具有递减导数函数的PNP-D。PNP-I通过分配更大梯度给困难正例而更关注它们,并试图使所有相关实例更靠近。相反,PNP-D较少关注此类实例并缓慢修正它们。对于大多数真实数据,一个类别通常包含若干局部簇。PNP-I盲目地聚集这些簇,而PNP-D保持它们原状。因此,PNP-D更具优势。在三个标准检索数据集上的实验显示了与上述分析一致的结果。大量评估表明PNP-D达到了最先进的性能。代码见 https://github.com/interestingzhuo/PNPloss

关键词

引用

@article{arxiv.2102.04640,
  title  = {Rethinking the Optimization of Average Precision: Only Penalizing Negative Instances before Positive Ones is Enough},
  author = {Zhuo Li and Weiqing Min and Jiajun Song and Yaohui Zhu and Liping Kang and Xiaoming Wei and Xiaolin Wei and Shuqiang Jiang},
  journal= {arXiv preprint arXiv:2102.04640},
  year   = {2022}
}