你能解释一下吗？清晰解释助力人机协作图像检索
计算机与社会
2019-09-24 v4 计算机视觉与模式识别
人机交互
摘要
尽管已有许多关于使 AI 算法可解释的提议，但鲜有研究尝试评估 AI 生成解释对人机协作任务中人类表现的影响。为弥补此差距，我们提出一种二十问风格的协作图像检索游戏——解释辅助猜图（ExAG），作为在视觉问答（VQA）背景下评估解释（视觉证据或文本依据）有效性的方法。在我们提出的 ExAG 中，人类用户需要通过向 VQA 智能体提出自然语言问题来猜出由其选取的隐藏图像。我们表明，总体而言，当 AI 解释其答案时，用户更常正确猜出隐藏图像。值得注意的是，与无解释游戏相比，在 VQA 答案大多错误时，少量正确解释即可迅速提升人类表现。此外，我们还表明，尽管被评为“有帮助”的解释显著改善人类表现，但“不正确”与“无帮助”的解释相比无解释游戏会降低表现。因此，我们的实验证明 ExAG 是评估人机协作任务中 AI 生成解释有效性的有效手段。
引用
@article{arxiv.1904.03285,
title = {Can You Explain That? Lucid Explanations Help Human-AI Collaborative Image Retrieval},
author = {Arijit Ray and Yi Yao and Rakesh Kumar and Ajay Divakaran and Giedrius Burachas},
journal= {arXiv preprint arXiv:1904.03285},
year = {2019}
}
备注
2019 AAAI Conference on Human Computation and Crowdsourcing