CalibraEval：校准预测分布以缓解LLM作为评判者中的选择偏差
计算与语言
2024-10-22 v1
摘要
使用大型语言模型（LLM）作为自动化评估工具来评估生成的自然语言质量，即LLM作为评判者（LLMs-as-Judges），已展现出有前景的能力，并迅速获得广泛关注。然而，当应用于候选回答的成对比较时，基于LLM的评估器常常表现出选择偏差。具体来说，当选项位置或ID令牌被交换时，它们的判断可能变得不一致，从而损害评估结果的有效性和公平性。为应对这一挑战，我们引入了CalibraEval，一种新颖的无标签方法，用于在推理过程中缓解选择偏差。具体来说，CalibraEval将去偏差重新表述为一个优化任务，旨在调整观察到的预测分布以与无偏预测分布对齐。为解决这个优化问题，我们提出了一种非参数保序算法（NOA）。该算法利用模型预测分布之间的偏序关系，从而消除了对显式标签和精确数学函数建模的需求。在多个代表性基准测试中对LLM的实证评估表明，与现有的去偏差方法相比，CalibraEval能有效缓解选择偏差并提升性能。这项工作标志着向构建更稳健、更无偏的自动化评估框架迈出了一步，为提升AI驱动评估的可靠性铺平了道路。
引用
@article{arxiv.2410.15393,
title = {CalibraEval: Calibrating Prediction Distribution to Mitigate Selection Bias in LLMs-as-Judges},
author = {Haitao Li and Junjie Chen and Qingyao Ai and Zhumin Chu and Yujia Zhou and Qian Dong and Yiqun Liu},
journal= {arXiv preprint arXiv:2410.15393},
year = {2024}
}
备注
13 pages