通过推理依赖生成缓解大语言模型中的选择支持偏差
计算与语言
2025-12-04 v1 人工智能
摘要
近期研究表明，一些大型语言模型在执行评估时表现出选择支持偏差（CSB），系统性地偏向其选择的选项，可能损害AI辅助决策的客观性。虽然现有的去偏方法主要针对人口统计和社会偏差，但针对LLMs中认知偏差的方法仍然 largely unexplored。在本工作中，我们通过推理依赖生成（RDG）提出了首个解决CSB的方案，这是一个通过微调来缓解选择支持偏差的新型框架，用于生成无偏推理数据。RDG自动构建平衡的推理QA对，明确地（取消）建模选择、证据和理由之间的依赖关系。我们的方法能够跨领域生成大规模QA对数据集，包括上下文依赖数据和依赖解耦数据。实验表明，在RDG生成数据上微调的LLM在基于记忆的实验中表现出81.5%的提升，在基于评估的实验中表现出94.3%的提升，同时在标准BBQ基准上保持类似的性能。本工作开创了一种应对LLMs中认知偏差的方法，并为开发更可靠的AI辅助决策支持系统做出了贡献。
引用
@article{arxiv.2512.03082,
title = {Alleviating Choice Supportive Bias in LLM with Reasoning Dependency Generation},
author = {Nan Zhuang and Wenshuo Wang and Lekai Qian and Yuxiao Wang and Boyu Cao and Qi Liu},
journal= {arXiv preprint arXiv:2512.03082},
year = {2025}
}