信任校准与信任尊重:人机团队中构建团队凝聚力的一种方法
机器人学
2021-10-14 v1
摘要
人机交互(HRI)与机器人自主性领域的近期进展正在改变世界。如今机器人在多种应用中得到使用。人与机器人在人类自主团队(HATs)中协作完成单独难以轻易完成的任务。HATs 中机器人与人类之间的信任对任务完成与有效团队凝聚力至关重要。为使人机交互中人类操作员获得最优性能与安全,人类信任应调整至机器人系统的实际性能与可靠性。人机交互中信任校准不佳的代价,轻则性能低下,重则导致人员受伤或关键任务失败。尽管信任校准的作用对团队凝聚力至关重要,机器人亦需能够评估人类是否因愤怒、分心或沮丧等其他因素表现出不信任迹象。在此类情形下,机器人选择不校准信任,而是选择尊重信任。尊重信任的决定由机器人基于其行动(成功与失败)及对人类的反馈,判断人类是否应当信任机器人来确定。我们表明,以信任校准线索(TCCs)形式的反馈可有效改变人类的信任水平。该信息或有助于机器人作出尊重信任的决定。
引用
@article{arxiv.2110.06809,
title = {Trust Calibration and Trust Respect: A Method for Building Team Cohesion in Human Robot Teams},
author = {Russell Perkins and Zahra Rezaei Khavas and Paul Robinette},
journal= {arXiv preprint arXiv:2110.06809},
year = {2021}
}
备注
Presented at AI-HRI symposium as part of AAAI-FSS 2021 (arXiv:2109.10836)