用于无偏学习排序的上下文双重学习算法与列表式蒸馏
信息检索
2024-08-20 v1 人工智能
摘要
无偏学习排序(ULTR)旨在利用有偏隐式用户反馈（如点击）来优化无偏排序模型。已有ULTR方法的有效性主要在合成数据集上得到验证，但其在真实世界点击数据上的性能尚不明确。近期，百度发布了一个大规模公开的网络搜索日志数据集。随后，NTCIR-17 ULTRE-2任务从中提取了一个子集数据集。本文在常用或有效的ULTR方法上对该子集进行实验，以确定它们是否保持有效性。本文提出上下文双重学习算法与列表式蒸馏(CDLA-LD)，同时解决位置偏差和上下文偏差问题。利用列表式输入排序模型获取包含局部上下文信息的重构特征向量，并采用双重学习算法(DLA)方法联合训练该排序模型和倾向模型以解决位置偏差。由于该排序模型学习了训练集中文档列表内的交互信息，为增强排序模型的泛化能力，本文额外训练了一个逐点输入排序模型，以列表式方式学习列表式输入排序模型的相关性判断能力。大量实验和分析证实了本文方法的有效性。
引用
@article{arxiv.2408.09817,
title = {Contextual Dual Learning Algorithm with Listwise Distillation for Unbiased Learning to Rank},
author = {Lulu Yu and Keping Bi and Shiyu Ni and Jiafeng Guo},
journal= {arXiv preprint arXiv:2408.09817},
year = {2024}
}
备注
12 pages, 2 figures