基于分数的成对比较密度估计
机器学习
2026-03-26 v2
摘要
我们研究基于成对比较的密度估计,其动机来自专家知识获取和从人类反馈中学习。我们将未观测到的目标密度与调制胜者密度(偏好选择的边缘密度)相关联,通过分数匹配学习胜者的分数。这允许通过对估计的胜者密度分数进行“去调制”来估计目标密度。我们证明信念和胜者密度的分数向量共线,由一个依赖于位置的调制场连接。我们给出了该场的解析公式,并在Bradley-Terry模型下提出了其估计器。通过使用在通过分数缩放退火Langevin动力学生成的调制样本上训练的扩散模型,我们可以从仅数百到数千次成对比较中学习模拟专家的复杂多元信念密度。
引用
@article{arxiv.2510.09146,
title = {Score-Based Density Estimation from Pairwise Comparisons},
author = {Petrus Mikkola and Luigi Acerbi and Arto Klami},
journal= {arXiv preprint arXiv:2510.09146},
year = {2026}
}
备注
Accepted at ICLR 2026. Camera-ready version. 36 pages, 16 figures