AvE：通过赋能实现辅助
人工智能
2021-01-11 v5 机器学习
机器人学
摘要
在使用人工智能体进行人类辅助应用时，一个难点在于准确协助个人目标所具有的挑战性。现有方法往往依赖于推断人类的目标，而当潜在目标众多或候选目标集合难以确定时，这一推断十分困难。我们提出了一种全新的辅助范式：转而增强人类控制其环境的能力，并通过将人类赋能（empowerment）引入强化学习来形式化该方法。这一与任务无关的目标保留了个人自主性和达成任意最终状态的能力。我们将该方法与基于目标推断的辅助方法进行对比测试，突出了在目标模糊或错误设定所导致的失效场景下本方法如何克服这些模式。由于现有在连续域中估计赋能的方法计算代价高昂，妨碍了其在实时学习型辅助中的应用，我们还提出了一种高效的受赋能启发的代理度量。利用该度量，我们能够在一项共享自主用户研究中，针对具有人类在环训练的极具挑战性的模拟遥操作任务成功演示本方法。
引用
@article{arxiv.2006.14796,
title = {AvE: Assistance via Empowerment},
author = {Yuqing Du and Stas Tiomkin and Emre Kiciman and Daniel Polani and Pieter Abbeel and Anca Dragan},
journal= {arXiv preprint arXiv:2006.14796},
year = {2021}
}
备注
Final version from NeurIPS 2020 Conference Proceedings