实现具有道德敏感性的机器人澄清请求
人工智能
2020-07-20 v1 计算与语言
计算机与社会
机器人学
摘要
当前面向自然语言的机器人架构设计使得某些架构组件能够规避道德推理能力。这方面的一个例子是：一旦在人类话语中检测到指称歧义，便反射式地生成澄清请求。如先前研究所示，这可能导致机器人（1）错误传达其道德倾向，以及（2）削弱人类在当前语境中对道德规范的感知或应用。我们通过对人类歧义话语的每一种潜在消歧进行道德推理并相应回应，而非立即且简单地请求澄清，来解决这些问题。我们在 DIARC 机器人架构中实现了我们的方案，据我们所知，这是当前唯一同时具备道德推理和澄清请求生成能力的机器人架构。随后我们通过一项人类受试者实验评估了我们的方法，结果表明我们的方法成功改善了上述两个已识别的问题。
引用
@article{arxiv.2007.08670,
title = {Enabling Morally Sensitive Robotic Clarification Requests},
author = {Ryan Blake Jackson and Tom Williams},
journal= {arXiv preprint arXiv:2007.08670},
year = {2020}
}
备注
Accepted for nonarchival presentation at Advances in Cognitive Systems (ACS) 2020