机制设计中的可解释性：近期进展与未来道路
多智能体系统
2022-08-23 v2
摘要
设计和实现可解释系统被视为增进用户对人工智能（AI）系统的信任、接受与依赖的下一步。尽管解释机器学习与深度学习等黑盒算法的决策占据了大部分关注，但在社会选择背景下尝试解释决策（即便简单的）的系统也正稳步赶上。在本文中，我们提供了机制设计中可解释性的全面综述，该领域以经济动机型智能体为特征，且往往不存在使所有个体效用函数最大化的单一选择。我们讨论了机制设计中可解释性的主要性质与目标，并将其与通用可解释AI（XAI）的那些性质与目标区分开。此讨论之后，我们彻底回顾了从事可解释机制设计时可能面临的挑战，并针对这些挑战提出了若干解概念。
引用
@article{arxiv.2206.03031,
title = {Explainability in Mechanism Design: Recent Advances and the Road Ahead},
author = {Sharadhi Alape Suryanarayana and David Sarne and Sarit Kraus},
journal= {arXiv preprint arXiv:2206.03031},
year = {2022}
}