Efficient Bayesian Inference from Noisy Pairwise Comparisons
机器学习
2026-05-13 v2 计算机视觉与模式识别
摘要
评估生成模型具有挑战性，因为标准指标往往无法反映人类偏好。人类评估更为可靠，但成本高昂且充满噪声，因为参与者在专业水平、注意力和严谨性方面存在差异。成对比较提高了一致性，但将成对比较聚合为总体质量评分需要谨慎建模。基于 Bradley-Terry 的方法从比较中更新项目评分，但现有方法要么忽略评分者变异性，要么缺乏收敛保证，从而限制了鲁棒性与可解释性。我们提出了 BBQ，一种贝叶斯 Bradley-Terry 变体，它显式地对评分者质量进行建模，降低权重或移除不可靠的参与者，并通过期望最大化（Expectation-Maximization）算法提供保证的单调似然收敛。实证结果表明，BBQ 提供了高效的推理、良好校准的不确定性估计，以及相比基线 Bradley-Terry 模型更鲁棒、更可解释的排序，即使在噪声或众包评分者的情况下也是如此。该框架为生成模型的人类评估提供了更可靠、更经济的方法。
引用
@article{arxiv.2510.09333,
title = {Efficient Bayesian Inference from Noisy Pairwise Comparisons},
author = {Till Aczel and Lucas Theis and Roger Wattenhofer},
journal= {arXiv preprint arXiv:2510.09333},
year = {2026}
}