最优行为先验：用于改进人机协作的数据高效人类模型
机器学习
2022-11-22 v2 人机交互
摘要
为与人协作而设计的 AI 智能体受益于能够预测人类行为的模型。然而，逼真的模型往往需要大量人类数据，而这些数据通常难以收集。良好的先验或初始化可实现更高效的数据训练，但什么才构成人类行为的良好先验？我们的工作利用了一个非常简单的假设：人们的行为通常更接近最优而非随机。我们表明，使用最优行为作为人类模型的先验，可使这些模型在数据效率上大幅提升，并能够泛化到新环境。我们的直觉是，这样的先验使训练能够将宝贵的真实世界数据集中于捕捉人类次优性的细微差别，而非首要集中于如何完成任务的基础。我们还表明，与使用仅基于真实人类数据的模型相比，使用这些改进的人类模型往往能带来更好的人机协作性能。
引用
@article{arxiv.2211.01602,
title = {Optimal Behavior Prior: Data-Efficient Human Models for Improved Human-AI Collaboration},
author = {Mesut Yang and Micah Carroll and Anca Dragan},
journal= {arXiv preprint arXiv:2211.01602},
year = {2022}
}
备注
Presented at the NeurIPS 2022 Human in the Loop Learning (HiLL) Workshop