人机交互中可解释性度量的贝叶斯解释
人工智能
2020-11-24 v1
摘要
现有可解释智能体行为设计方法孤立地考虑不同的可解释性度量。在本文中我们主张，在真实世界中人类感知智能体的设计与部署里，可解释性概念仅是众多考量中的一部分；并且孤立开发的技术在综合考虑时缺乏两个关键属性：它们需要能够 1) 处理彼此竞争的属性；以及 2) 面对一个开放世界，其中人类不仅仅以某一种特定形式来解释行为。为此，我们考虑现有文献中研究的三种知名可解释行为实例——即可说明性、可读性与可预测性——并提出一种修正模型，其中所有这些行为均可被有意义地共同建模。我们将凸显该统一模型的有趣推论，并通过一项用户研究的结果论证这一修正的必要性。
引用
@article{arxiv.2011.10920,
title = {A Bayesian Account of Measures of Interpretability in Human-AI Interaction},
author = {Sarath Sreedharan and Anagha Kulkarni and Tathagata Chakraborti and David E. Smith and Subbarao Kambhampati},
journal= {arXiv preprint arXiv:2011.10920},
year = {2020}
}