形态结构决定机器人对群体提议语言的接地能力
人工智能
2017-12-22 v2 机器人学
摘要
随着越来越多的机器人在物理上接近人类行动，确保它们做出符合人类价值观的决策并执行相应动作至关重要。为此，机器人需要理解人类发出指令背后的真实意图。在本文中，我们将安全机器人定义为：接收人类自然语言指令，针对该指令考虑一个动作，并准确预测该动作若在现实中执行时人类将如何评判它的机器人。我们的贡献有两点：首先，我们引入一个网络众包平台，供人类用户向模拟机器人提议指令。机器人接收指令并基于所提议的指令行动，随后用户提供正向和/或负向反馈。接着，我们为每个机器人训练一个评论家（critic），以预测群体对其所提议指令之一的响应。其次，我们表明机器人的形态结构在其语言接地方式中起着作用：评论家显示，实验中使用的两个机器人取得了比其他机器人更低的预测误差。因此，根据我们的定义，这两个机器人更安全，因为它们更准确地对提议指令进行了接地。
引用
@article{arxiv.1712.05881,
title = {Morphology dictates a robot's ability to ground crowd-proposed language},
author = {Zahra Mahoor and Jack Felag and Josh Bongard},
journal= {arXiv preprint arXiv:1712.05881},
year = {2017}
}