解释对VQA中AI能力预测的影响
计算机视觉与模式识别
2020-07-03 v1 人工智能
人机交互
摘要
可解释性是建立对AI系统信任的关键要素之一。在众多使AI可解释的尝试中,量化解释的效果仍是开展人机协作任务的一大挑战。除了预测AI整体行为的能力外,在许多应用中,用户需要理解AI智能体在任务领域不同方面的能力。本文中,我们评估了在视觉问答(VQA)任务中解释对用户关于AI智能体能力心智模型的影响。我们基于系统实际性能与用户排序之间的相关性来量化用户的能力理解程度。我们引入了一个利用空间与物体特征、由BERT语言模型驱动的可解释VQA系统。每组用户仅看到一种解释来对VQA模型的能力进行排序。所提模型通过被试间实验进行评估,以探究解释对用户能力感知的影响。两个VQA模型的比较表明,基于BERT的解释和物体特征的使用改善了用户对模型能力的预测。
引用
@article{arxiv.2007.00900,
title = {The Impact of Explanations on AI Competency Prediction in VQA},
author = {Kamran Alipour and Arijit Ray and Xiao Lin and Jurgen P. Schulze and Yi Yao and Giedrius T. Burachas},
journal= {arXiv preprint arXiv:2007.00900},
year = {2020}
}
备注
Submitted to HCCAI 2020