论了解人类对于人机协作的效用
机器学习
2020-01-10 v2 人工智能
人机交互
机器学习
摘要
尽管我们希望智能体能够与人类协作，但当前的算法（如自我博弈和基于种群的训练）所创建的智能体只能与自身协作。那些假设其伙伴是最优的或与其相似的智能体，可能会收敛到无法被人类理解、也无法理解人类的协作协议。为证明这一点，我们基于流行的游戏 Overcooked 引入了一个需要挑战性协作的简单环境，并学习了一个模拟人类玩法的简单模型。我们评估了通过自我博弈和基于种群的训练所训练智能体的表现。这些智能体在与自身配对时表现非常好，但当与我们的类人模型配对时，其表现明显差于专门设计用于与该人类模型协作的智能体。一项使用规划算法的实验得出了相同结论，尽管仅当具备人类感知的规划器被赋予其所配对的确切人类模型时成立。一项针对真实人类的用户研究也显示出同样的模式，尽管程度较弱。定性地，我们发现性能提升来自于智能体对人类玩法的适应。鉴于此结果，我们提出了几种设计能够了解人类从而更好与之协作的智能体的方法。代码见 https://github.com/HumanCompatibleAI/overcooked_ai。
引用
@article{arxiv.1910.05789,
title = {On the Utility of Learning about Humans for Human-AI Coordination},
author = {Micah Carroll and Rohin Shah and Mark K. Ho and Thomas L. Griffiths and Sanjit A. Seshia and Pieter Abbeel and Anca Dragan},
journal= {arXiv preprint arXiv:1910.05789},
year = {2020}
}
备注
Published at NeurIPS 2019 (http://papers.nips.cc/paper/8760-on-the-utility-of-learning-about-humans-for-human-ai-coordination)