DSL：理解与改进基于竞争感知缩放的软最大损失推荐系统
机器学习
2026-02-10 v1 人工智能
摘要
软最大损失（Softmax Loss, SL）正逐渐被广泛应用于推荐系统（RS），因为其在性能、鲁棒性和公平性方面均表现出更佳效果。然而，在隐式反馈场景中，单一全局温度和对均匀抽样负样本的平等处理可能导致训练过程脆弱，因为抽样集合可能包含程度各异的相关或信息丰富的竞争者。对于特定负样本集合的user-item对，最优的损失锋利度可能对另一组不同负样本的user-item对而言，就是次优甚至会 destabilize 的。我们提出双尺度软最大损失（Dual-scale Softmax Loss, DSL），通过推断抽样竞争本身所蕴含的有效锋利度。DSL在对数-和-指数 backbone 上增设两个互补分支：首先，它依据难度和物品-物品相似度对每个训练实例中的负样本进行重新加权；其次，它根据构建的竞争候选集的竞争强度自适应地为每个样本设置温度。这些组件既保留了SL的几何结构，又跨负样本和跨样本地重塑了竞争分布。在多个代表性基准和 backbone 上，DSL相对于强基线均取得显著提升，多个设置下相对于SL的提升超过10%，在数据集、指标和 backbone 之间平均提升6.22%。在分布外（Out-of-Distribution, OOD）的流行度迁移情境下，提升幅度更大，平均相对于SL提升9.31%。我们进一步提供了理论分析，基于分布鲁棒优化（Distributionally Robust Optimization, DRO）分析，说明DSL如何重塑模糊实例的鲁棒收益和KL偏差。这有助于解释在实际中观察到的准确率和鲁棒性提升。
引用
@article{arxiv.2602.07206,
title = {DSL: Understanding and Improving Softmax Recommender Systems with Competition-Aware Scaling},
author = {Bucher Sahyouni and Matthew Vowels and Liqun Chen and Simon Hadfield},
journal= {arXiv preprint arXiv:2602.07206},
year = {2026}
}