探索解释对恰当信任的有效性：来自认知心理学的经验

人工智能（AI）的快速发展要求 AI 系统的开发者和设计者关注人与机器的协作。对系统行为与推理的 AI 解释对于通过培养恰当信任、确保理解以及解决公平与偏见问题来实现有效协作至关重要。然而，各种情境与主观因素会影响 AI 系统解释的有效性。本工作从认知心理学发现中汲取灵感，以理解如何设计有效解释。我们识别出解释设计者可特别关注的四个要素：感知、语义、意图以及用户与情境。我们通过一个结合文本与视觉、概率与样例、并在意用户与情境下传达意图的估算食物卡路里的示例，说明了这四个解释要素的使用。我们提出，有效 AI 解释的重大挑战在于使用不产生可解释解释的算法生成解释与解释传达之间的额外步骤。我们认为这一额外步骤将受益于仔细考量我们工作中概述的四个解释要素，从而正向影响解释的有效性。