反事实解释：抗衡人类误解的决策解释可提升人类决策能力
人机交互
2025-03-20 v2 人工智能
摘要
人类的决策能力常常在依赖人工智能提供决策支持时难以提升，甚至可能退化，尽管人工智能提供了有信息的解释。我们认为，这部分原因在于人们直观地寻求反事实解释，这类解释阐明了人工智能决策与自身推理之间的差异，而大多数人工智能系统提供的"单向"解释仅为论证人工智能决策，却未考虑用户的思考过程。为使人类与人工智能在决策任务上的知识达成一致，我们引入了生成以人类为中心的反事实解释框架，这类解释解释述了人工智能选择与关于同一任务中被预测、可能的人类选择之间的差异。来自大规模实验（N = 628）的结果表明，与单向解释相比，反事实解释显著提升了用户独立决策技能，同时未牺牲决策准确性。尽管存在日益增加的技能退化担忧，但我们的研究表明，将人类推理纳入人工智能设计可促进人类技能的发展。
引用
@article{arxiv.2410.04253,
title = {Contrastive Explanations That Anticipate Human Misconceptions Can Improve Human Decision-Making Skills},
author = {Zana Buçinca and Siddharth Swaroop and Amanda E. Paluch and Finale Doshi-Velez and Krzysztof Z. Gajos},
journal= {arXiv preprint arXiv:2410.04253},
year = {2025}
}