机器人的道德信任违背与性能信任违背:何者伤害更甚?
机器人学
2021-10-12 v1 人工智能
摘要
近年来,Ullman 等人引入了一种现代人-机器人交互(HRI)中信任的概念框架。这种新的信任概念认为,人与机器人之间的信任是多维的,既包含性能方面(即类似于人对自动化交互的信任),也包含道德方面(即类似于人对人交互的信任)。但是,机器人违背这些不同信任维度中的每一方面会如何影响人对机器人的信任?当机器人发生道德信任违背而非性能信任违背时,对机器人的信任如何变化?以及生理信号是否有潜力用于评估人在这两类信任维度上的得与失?我们旨在设计一项实验,在搜索与救援任务中分别研究性能信任违背与道德信任违背的影响。我们想观察,在失败程度相等的情况下,若一次失败源于性能信任违背而另一次源于道德信任违背,是否会对人的信任产生不同影响。
引用
@article{arxiv.2110.04418,
title = {Moral-Trust Violation vs Performance-Trust Violation by a Robot: Which Hurts More?},
author = {Zahra Rezaei Khavas and Russell Perkins and S. Reza Ahmadzadeh and Paul Robinette},
journal= {arXiv preprint arXiv:2110.04418},
year = {2021}
}
备注
Presented at AI-HRI symposium as part of AAAI-FSS 2021 (arXiv:2109.10836)