学习用于排序的列表级域不变表示
信息检索
2023-11-01 v3 人工智能
计算与语言
机器学习
摘要
域适应旨在将(数据丰富的)源域上学到的知识迁移到(低资源的)目标域,一种流行的方法是不变表示学习,其在特征空间上匹配并对齐数据分布。尽管该方法在分类与回归问题上被广泛研究与应用,其在排序问题上的采用却零散稀少,且少数现有实现缺乏理论依据。本文重访用于排序的不变表示学习。在回顾先前工作后,我们发现它们实现的是我们称之为项目级对齐的方式,其将来自所有列表中被排序项目的分布整体对齐,却忽略了列表结构。然而,列表结构应被利用,因为它是排序问题固有的——数据与度量均在列表上定义与计算,而非项目自身。为弥合此差距,我们提出列表级对齐——在更高层的列表上学习域不变表示。其益处有二:它导出了首个针对排序的域适应泛化界,进而为所提方法提供理论支撑;并且在包括段落重排序在内的排序任务无监督域适应上取得了更好的经验迁移性能。
引用
@article{arxiv.2212.10764,
title = {Learning List-Level Domain-Invariant Representations for Ranking},
author = {Ruicheng Xian and Honglei Zhuang and Zhen Qin and Hamed Zamani and Jing Lu and Ji Ma and Kai Hui and Han Zhao and Xuanhui Wang and Michael Bendersky},
journal= {arXiv preprint arXiv:2212.10764},
year = {2023}
}
备注
NeurIPS 2023. Comparison to v1: revised presentation and proof of Corollary 4.9