说服悖论：当LLM解释未能提升人类AI团队绩效
人机交互
2026-04-07 v1 人工智能
计算与语言
摘要
虽然大型语言模型（LLM）提供的自然语言解释广泛用于提高透明度和信任，但其对客观人类AI团队绩效的影响仍鲜为人知。我们识别出说服悖论：流畅的解释系统性地提高用户对AI的信心与依赖，却未能可靠提升任务准确性，甚至在某些情况下削弱准确性。在三个受控人类主体研究中，我们分别针对抽象视觉推理（RAVEN矩阵）和演绎逻辑推理（LSAT问题），使用多阶段披露设计和分组比较方法分离AI预测与解释的影响。在视觉推理中，LLM解释提升信心但未超越AI预测本身提升准确性，且显著抑制用户从模型错误中恢复的能力。通过暴露模型不确定性的概率预测接口，以及延迦不确定案例的人工决策策略，实现的准确性和错误恢复显著高于基于解释的界面。在 contrastively地，对于基于语言的逻辑推理任务，LLM解释实现最高的准确性和恢复率，超越专家编写的解释和概率依赖支持。这种差异表明，叙事解释的有效性强烈取决于任务特性，并受认知模式影响。我们的发现表明，诸如信任、信心和感知清晰度等主观指标是人类AI团队绩效的poor predictor。我们主张，需从interaction design转向强调校准依赖和有效错误恢复，而非富有说服力的流畅性。
引用
@article{arxiv.2604.03237,
title = {The Persuasion Paradox: When LLM Explanations Fail to Improve Human-AI Team Performance},
author = {Ruth Cohen and Lu Feng and Ayala Bloch and Sarit Kraus},
journal= {arXiv preprint arXiv:2604.03237},
year = {2026}
}