建模监督员安全集以改善人机团队协作
机器人学
2019-06-24 v2
摘要
当人类监督员与机器人团队协作时，他们的注意力被分散，认知资源十分宝贵。我们旨在优化这些资源的分配与注意力流动。为此，我们提出一个理想化监督员模型来描述人类行为。这样的监督员使用潜在不准确的机器人动力学内部模型来判断安全性。我们通过使用该内部模型并基于可达性理论构建安全集来表示这些安全性判断。当机器人离开该安全集时，理想化监督员将进行干预以提供协助，无论机器人客观上是否仍然安全。误报（人类监督员错误判断机器人处于危险中）会无谓地消耗监督员注意力。在这项工作中，我们提出一种通过学习方法监督员的安全集并利用该信息来规范机器人行为以减少误报的方法。我们证明，按照我们的方法行为的机器人将减少理想化监督员模型的误报发生。此外，我们通过用户研究实证验证了我们的方法，该研究表明与基线安全控制器相比，我们的方法的误报显著减少（p = 0.0328）。
引用
@article{arxiv.1805.03328,
title = {Modeling Supervisor Safe Sets for Improving Collaboration in Human-Robot Teams},
author = {David L. McPherson and Dexter R. R. Scobee and Joseph Menke and Allen Y. Yang and S. Shankar Sastry},
journal= {arXiv preprint arXiv:1805.03328},
year = {2019}
}