通过成对排序的事后回归精化
机器学习
2025-10-02 v2 人工智能
摘要
连续属性的准确预测对于许多科学和工程任务至关重要。尽管深度学习回归器在标签充足时表现出色，但在数据稀缺的情况下其准确性会下降。我们引入了 RankRefine，一种与模型无关、即插即用的事后方法，利用来自成对排序的专家知识来精化回归。给定一个查询项和一个具有已知属性的小型参考集，RankRefine 通过逆方差加权将基础回归器的输出与基于排序的估计相结合，无需重新训练。在分子性质预测任务中，RankRefine 仅使用通过通用大语言模型（LLM）获得的20次成对比较，无需微调，即可实现平均绝对误差相对降低高达10%。由于人类专家或通用 LLM 提供的排序足以在不同领域改进回归，RankRefine 提供了实用性和广泛的适用性，尤其是在低数据场景中。
引用
@article{arxiv.2508.16495,
title = {Post Hoc Regression Refinement via Pairwise Rankings},
author = {Kevin Tirta Wijaya and Michael Sun and Minghao Guo and Hans-Peter Seidel and Wojciech Matusik and Vahid Babaei},
journal= {arXiv preprint arXiv:2508.16495},
year = {2025}
}
备注
NeurIPS 2025 camera-ready version