你的语言模型可能过于僵化：通过对称增强训练实现推理一致性
计算与语言
2025-02-26 v1
摘要
大语言模型（LLMs）在各种任务中展现了强大的推理能力。然而，即使查询措辞的微小变化（尽管保持了底层语义含义），也可能显著影响其性能。为解决这一问题，我们聚焦于增强LLMs对查询变化中对称性的认知，并提出syMmetry-ENhanceD（MEND）数据增强，一种以数据为中心的方法，通过提升模型从上下文提取有用信息的能力来改善模型性能。与现有强调推理链增强的方法不同，我们的方法通过查询增强在知识提取阶段提升模型鲁棒性，从而实现更高效的数据训练和更强的分布外（OOD）泛化能力。在逻辑推理和算术推理任务上的大量实验表明，MEND在多样化的查询变化中提升了推理性能，为通过结构化数据集策划提升LLM鲁棒性提供了新见解。
引用
@article{arxiv.2502.17800,
title = {Your Language Model May Think Too Rigidly: Achieving Reasoning Consistency with Symmetry-Enhanced Training},
author = {Yihang Yao and Zhepeng Cen and Miao Li and William Han and Yuyou Zhang and Emerson Liu and Zuxin Liu and Chuang Gan and Ding Zhao},
journal= {arXiv preprint arXiv:2502.17800},
year = {2025}
}