PSL：从成对视角重新思考与改进推荐系统中的 Softmax 损失
机器学习
2025-08-05 v1 人工智能
信息检索
摘要
Softmax 损失（SL）广泛应用于推荐系统（RS）并已证明其有效性。本文从成对视角分析了 SL，揭示了两个显著的局限性：1）SL 与传统的排序指标（如 DCG）之间的关系不够紧密；2）SL 对假负例实例高度敏感。我们的分析表明，这些局限性主要源于指数函数的使用。为了解决这些问题，本文将 SL 扩展为一个新的损失函数族，称为成对 Softmax 损失（PSL），它用其他合适的激活函数替换了 SL 中的指数函数。虽然修改很小，但我们强调了 PSL 的三个优点：1）在合适的激活函数下，它可以作为 DCG 的更紧密的替代函数；2）它能更好地平衡数据贡献；3）它可以看作是一种通过分布鲁棒优化（DRO）增强的特定 BPR 损失。我们通过实证实验进一步验证了 PSL 的有效性和鲁棒性。代码可在 https://github.com/Tiny-Snow/IR-Benchmark 获取。
引用
@article{arxiv.2411.00163,
title = {PSL: Rethinking and Improving Softmax Loss from Pairwise Perspective for Recommendation},
author = {Weiqin Yang and Jiawei Chen and Xin Xin and Sheng Zhou and Binbin Hu and Yan Feng and Chun Chen and Can Wang},
journal= {arXiv preprint arXiv:2411.00163},
year = {2025}
}