解释能否使 VQA 模型对人类更具可预测性？
人工智能
2018-10-31 v1 计算与语言
计算机视觉与模式识别
摘要
大量研究试图通过生成人类可解释的“解释”来使深度神经网络在其决策过程中更透明，特别是对于视觉问答（VQA）等交互任务。在这项工作中，我们分析现有解释是否确实使 VQA 模型——其响应以及失败——对人类更具可预测性。令人惊讶的是，我们发现它们并没有。另一方面，我们发现将模型视为黑盒的人机回路方法确实做到了。
引用
@article{arxiv.1810.12366,
title = {Do Explanations make VQA Models more Predictable to a Human?},
author = {Arjun Chandrasekaran and Viraj Prabhu and Deshraj Yadav and Prithvijit Chattopadhyay and Devi Parikh},
journal= {arXiv preprint arXiv:1810.12366},
year = {2018}
}
备注
EMNLP 2018. 16 pages, 11 figures. Content overlaps with "It Takes Two to Tango: Towards Theory of AI's Mind" (arXiv:1704.00717)