决策支持与推荐系统中解释的系统综述与分类体系
人工智能
2020-06-17 v1 信息检索
摘要
随着人工智能领域的近期进展，越来越多的决策任务被委托给软件系统。此类系统成功与被采纳的一个关键要求是用户必须信任系统选择甚至完全自动化的决策。为此，自专家系统早期以来，解释机制作为建立对这些系统信任的手段已被广泛研究。在当今日益复杂的机器学习算法下，关于此类系统的解释、问责与信任方面不断出现新的挑战。在本工作中，我们系统综述了关于建议型系统中解释的文献。这是一类包含推荐系统的系统家族，而推荐系统是实践中最成功的建议型软件类别之一。我们考察了解释的目的，以及它们如何生成、呈现给用户并接受评估。作为结果，我们推导出一个新颖且全面的分类体系，涵盖在设计与当前及未来决策支持系统的解释机制时所需考虑的各个方面。该分类体系包含多种不同维度，如解释目标、响应性、内容与呈现。此外，我们识别出若干迄今仍未解决的挑战，例如与解释呈现的细粒度问题以及解释机制如何被评估相关的挑战。
引用
@article{arxiv.2006.08672,
title = {A systematic review and taxonomy of explanations in decision support and recommender systems},
author = {Ingrid Nunes and Dietmar Jannach},
journal= {arXiv preprint arXiv:2006.08672},
year = {2020}
}