语言模型中的一致性：现状、挑战与未来方向
计算与语言
2025-07-15 v2 人工智能
摘要
有效语言使用的标志在于一致性：在相似语境中表达相似含义并避免矛盾。虽然人类交流自然地体现了这一原则，但最先进的语言模型（LM）在特定任务和领域应用中仍难以保持可靠的一致性。本文审视了语言模型一致性研究的现状，分析了当前衡量一致性各方面的方法，并指出了关键的研究空白。我们的发现表明，迫切需要高质量基准来衡量一致性，并需要跨学科方法来确保一致性，同时保持实用性。
引用
@article{arxiv.2505.00268,
title = {Consistency in Language Models: Current Landscape, Challenges, and Future Directions},
author = {Jekaterina Novikova and Carol Anderson and Borhane Blili-Hamelin and Domenic Rosati and Subhabrata Majumdar},
journal= {arXiv preprint arXiv:2505.00268},
year = {2025}
}
备注
Accepted in ICML 2025 Workshop on Reliable and Responsible Foundation Models