对齐文本评分规则
人工智能
2025-07-09 v1 计算机科学与博弈论
摘要
评分规则通过对预测结果与真实状态的评分来引导战略代理人报告概率性预测。若从代理人视角出发，报告真实信念可最大化预期得分，则称该评分规则为 proper。随着语言模型的发展，Wu 和 Hartline (2024) 提出将文本信息引导问题归约为数值（即概率性）信息引导问题，这一方法可为文本引导实现可证的 properness。然而，并非所有 proper 评分规则都与人类对文本的偏好高度一致。本文通过优化和最小化 proper 评分规则与参考评分（如人类评分）之间的均方误差，设计了用于文本的对齐评分规则（ASR）。我们的实验表明，ASR 在保持 properness 的同时，优于先前方法，更能与人类偏好对齐。
引用
@article{arxiv.2507.06221,
title = {Aligned Textual Scoring Rules},
author = {Yuxuan Lu and Yifan Wu and Jason Hartline and Michael J. Curry},
journal= {arXiv preprint arXiv:2507.06221},
year = {2025}
}