不要只是翻译，要质疑：使用大语言模型作为 AI 解释的魔鬼代言人

本立场论文突出了可解释人工智能（XAI）研究中日益增长的趋势，即使用大语言模型（LLM）将可解释性技术（如特征归因权重）的输出翻译为自然语言解释。虽然这种方法可能会提高用户的可及性或可读性，但最近的发现表明，翻译为类人解释并不一定会增强用户的理解，反而可能导致对人工智能系统的过度依赖。当 LLM 在总结 XAI 输出时没有揭示模型的局限性、不确定性或不一致性，它们就有可能强化可解释性的错觉，而不是促进有意义的透明度。我们认为，LLM 不应仅仅翻译 XAI 输出，而应作为建设性的质疑者或魔鬼代言人，其作用是通过提出替代解释、潜在偏差、训练数据局限性以及模型推理可能失效的情况，来积极审查 AI 解释。在这一角色中，LLM 可以促进用户批判性地参与 AI 系统和生成的解释，从而有可能减少因误解或似是而非的解释而导致的过度依赖。