大语言模型的类CAP三难困境：语义欠定下的正确性、无偏性与效用
人工智能
2026-05-13 v1 数据库
摘要
CAP定理指出，分布式系统在网络分区下无法同时保证一致性、可用性和分区容错性。受此结果启发，本文为大语言模型提出了一个类CAP猜想。所提出的三难困境指出，在语义欠定条件下，大语言模型无法始终同时保证强正确性、严格无偏性和高效用。当给定的前提不能确定唯一答案时，提示就是语义欠定的。在这种情况下，有用且果断的回应需要模型引入一个选择标准、偏好、先验或价值排序。如果这个标准不是由用户提供或由可用前提证明的，那么回应在广义的选择理论意义上就变得有偏。反之，如果模型避免无支持的偏好，它可能通过拒绝、回避或澄清来保持正确性和无偏性，但可能会降低效用。本文形式化了这个正确性-无偏性-效用三难困境，给出了示例，并论证了某些大语言模型失败不仅源于模型局限性，还源于欠定决策请求的结构。
引用
@article{arxiv.2605.11672,
title = {A CAP-like Trilemma for Large Language Models: Correctness, Non-bias, and Utility under Semantic Underdetermination},
author = {Vinu Ellampallil Venugopal},
journal= {arXiv preprint arXiv:2605.11672},
year = {2026}
}