LLMs 尚不可被信赖具有决策解释能力

本立场论文主张，大语言模型（LLMs）尚不可被信赖具有决策解释能力。这一问题因近期研究日益将准确的行为预测、合理的论述以及以结果为导向的推理痕迹视为证据，从而可能导致对人类决策建模中解释性进步进行过早重新定义。我们首先区分三个不同证据负担的论断：决策预测、论述生成与决策解释。随后我们论证，最常用于支持LLM决策模型的证据直接支持前两个论断，甚至在解释性假设生成方面也有帮助，但并不足以区分决策解释与预测性论述。我们提出了决策解释信用标准：更强的论断应明确解释目标、对弱于论述性备选方案进行区分、采用针对性的过程或干预敏感的验证，并界定其适用范围。我们进一步将该标准置于竞争性观点与相关文献之间，阐明其如何保留LLM作为预测者、叙述者与假设生成器的价值，同时抵御过早的解释性信用。我们最后提出信用校准原则：LLMs应被信赖其证据支持的最强论断，绝不应超过此标准；若采纳此原则，可帮助将LLMs从具有说服力的决策叙述者，转变为更可靠的人类行为解释发现、测试与沟通工具。