双人才能共舞：迈向 AI 心智理论
计算机视觉与模式识别
2017-10-03 v2 人工智能
计算与语言
摘要
心智理论是指将心理状态（信念、意图、知识、视角等）归因于他人，并认识到这些心理状态可能不同于自身的能力。心智理论对于有效沟通以及团队展现更高的集体绩效至关重要。为了有效利用人工智能（AI）的进步使我们的生活更具生产力，人类与 AI 在团队中良好协作非常重要。传统上，研究重点多在于使 AI 更准确，并在较小程度上使其更好地理解人类的意图、倾向、信念和情境。后者涉及使 AI 更像人类并让其发展出关于我们心智的理论。在本研究中，我们论证了要使人类与 AI 团队高效运作，人类也必须发展出关于 AI 心智的理论——了解其优势、弱点、信念和怪癖。我们在视觉问答（VQA）领域内实例化了这些想法。我们发现，仅使用少量示例（50 个），普通人即可被训练以更好地预测复杂 VQA 模型的响应和即将发生的错误。我们进一步评估了现有的解释（或可解释性）模态在帮助人类建立 ToAIM 方面所起的作用。可解释 AI 近期受到了广泛的科学界和大众关注。令人惊讶的是，我们发现，获取模型的内部状态——即对其 top-k 预测的置信度，以及在回答关于图像的问题时模型正在关注（和倾听）的图像区域（以及问题中的词语）的显式或隐式注意力图——并不能帮助人们更好地预测其行为。
引用
@article{arxiv.1704.00717,
title = {It Takes Two to Tango: Towards Theory of AI's Mind},
author = {Arjun Chandrasekaran and Deshraj Yadav and Prithvijit Chattopadhyay and Viraj Prabhu and Devi Parikh},
journal= {arXiv preprint arXiv:1704.00717},
year = {2017}
}