从空中学习：基于内容无关概率校准的列表级重排去偏方法
人工智能
2026-04-14 v1 计算与语言
摘要
生成式列表级重排序（listwise reranking）利用全局上下文实现卓越检索效果，但受制于内在位置偏差（position bias），即模型对输入顺序具有结构性敏感性，独立于相关性。现有缓解方法面临困境：推理时聚合导致延迟 prohibitive，而训练性方法往往难以根除顽固的先验特别是在紧凑模型中。为此，我们提出 CapCal（Content-Agnostic Probability Calibration，内容无关概率校准），一种无训练框架，通过内容无关占位符估计偏差分布，对输出 logits 进行熵自适应对比校正，实现位置偏差与排序决策的机械解耦。跨 10 个基准的评估表明，CapCal 在无训练方法中实现了优异性能，同时保持单次推理效率。值得注意的是，它释放了轻量模型（如 0.6B 参数）的潜能，绝对 NDCG 提升超过 10 分，超越置换聚合与数据增强基线。
引用
@article{arxiv.2604.10150,
title = {Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration},
author = {Hang Lv and Hongchao Gu and Ruiqing Yang and Liangyue Li and Zulong Chen and Defu Lian and Hao Wang and Enhong Chen},
journal= {arXiv preprint arXiv:2604.10150},
year = {2026}
}
备注
ACL2026