用于协作的自解释偏离行为
人工智能
2022-07-26 v1 机器学习
摘要
完全合作、部分可观测的多智能体问题在现实世界中无处不在。本文关注一类特定的协作问题，其中人类能够发现自解释偏离（SED）。SED 是指在正常情况下偏离对合理行为的共同理解的动作。采取这些动作的目的是让另一个或其他智能体利用心智理论意识到环境必定异常。我们首先以现实世界中的例子引出 SED 并形式化其定义。接着，我们提出一种新颖的算法——改进最大化自解释偏离（IMPROVISED），以执行 SED。最后，我们在一个说明性玩具设定和流行的基准设定 Hanabi 中对 IMPROVISED 进行评估，它是首个产生所谓巧招（finesse plays）的方法，这被视为人类心智理论更具代表性的例子之一。
引用
@article{arxiv.2207.12322,
title = {Self-Explaining Deviations for Coordination},
author = {Hengyuan Hu and Samuel Sokota and David Wu and Anton Bakhtin and Andrei Lupu and Brandon Cui and Jakob N. Foerster},
journal= {arXiv preprint arXiv:2207.12322},
year = {2022}
}