论约定在自适应人-AI协作中的关键作用
机器学习
2021-04-08 v1 机器人学
摘要
人类能在协作任务(如打篮球)中快速适应新伙伴,因为他们理解任务的哪些基本技能(如如何运球、如何投篮)可跨新伙伴迁移。人类也能通过沿用已建立的约定(如举手示意传球)快速适应与相同伙伴的相似任务,而无需从头学习协调。为与人类无缝协作,AI智能体也应能快速适应新伙伴与新任务。然而,现有方法尚未尝试区分任务内在复杂性与伙伴所用约定,更普遍地,鲜有研究关注利用约定来适应新环境。本文提出一种学习框架,以原则性方式将规则依赖表征与约定依赖表征解耦。我们证明,在某些假设下,我们的规则依赖表征是跨伙伴最佳响应策略分布的充分统计量。利用这种表征分离,我们的智能体能够快速适应新伙伴,并以零样本方式与新任务上的旧伙伴协调。我们在三个复杂度递增的协作任务上实验验证了我们的方法:上下文多臂老虎机、积木放置任务以及纸牌游戏Hanabi。
引用
@article{arxiv.2104.02871,
title = {On the Critical Role of Conventions in Adaptive Human-AI Collaboration},
author = {Andy Shih and Arjun Sawhney and Jovana Kondic and Stefano Ermon and Dorsa Sadigh},
journal= {arXiv preprint arXiv:2104.02871},
year = {2021}
}
备注
9th International Conference on Learning Representations (ICLR 2021)