基于上下文混合模型的排序与校准联合优化
信息检索
2023-05-30 v2 机器学习
摘要
尽管排序优化技术不断发展，逐点损失仍是点击率预测的主流方法。这归因于逐点损失的校准能力，因为预测值可视为点击概率。实践中，CTR 预测模型也常以其排序能力进行评估。为优化排序能力，可采用排序损失（如成对或列表式损失），其通常比逐点损失取得更好的排序。先前研究尝试将两种损失直接结合，以同时获得二者益处并观察到性能提升。然而，先前研究破坏了输出 logit 作为点击率的语义，可能导致次优解。为解决此问题，我们提出一种能联合优化排序与校准能力的方法（简称 JRC）。JRC 通过对比不同标签样本的 logit 值来提升排序能力，并约束预测概率为 logit 之差的函数。我们进一步表明 JRC 巩固了 logit 的解释，其中 logit 建模联合分布。基于该解释，我们证明 JRC 近似优化上下文混合判别–生成目标。在公开与工业数据集及在线 A/B 测试上的实验表明，我们的方法同时提升了排序与校准能力。自 2022 年 5 月起，JRC 已部署于阿里巴巴展示广告平台，并取得显著性能提升。
引用
@article{arxiv.2208.06164,
title = {Joint Optimization of Ranking and Calibration with Contextualized Hybrid Model},
author = {Xiang-Rong Sheng and Jingyue Gao and Yueyao Cheng and Siran Yang and Shuguang Han and Hongbo Deng and Yuning Jiang and Jian Xu and Bo Zheng},
journal= {arXiv preprint arXiv:2208.06164},
year = {2023}
}
备注
Accepted at KDD 2023