面向人机协作中鲁棒AI智能体部署的研究
机器学习
2020-06-17 v2 人工智能
机器学习
摘要
我们研究设计能在人机协作中与人鲁棒合作的 AI 智能体的问题。我们的工作受现实场景启发：在此类场景中，AI 智能体（如虚拟助手）在部署后须与新用户合作。我们通过参数化 MDP 框架建模该问题，其中参数对应用户类型并刻画其行为。在测试阶段，AI 智能体须与类型未知的用户交互。我们设计鲁棒 AI 智能体的方法依赖于观察用户动作以推断其类型，并调整自身策略以促进高效合作。我们表明，若不具适应性，AI 智能体在测试阶段可能表现任意糟糕。我们开发了两种算法用于计算在测试阶段自动适应用户的的策略。我们在解决双智能体协作任务中展示了我们方法的有效性。
引用
@article{arxiv.1910.02330,
title = {Towards Deployment of Robust AI Agents for Human-Machine Partnerships},
author = {Ahana Ghosh and Sebastian Tschiatschek and Hamed Mahdavi and Adish Singla},
journal= {arXiv preprint arXiv:1910.02330},
year = {2020}
}