机器人的能力自我评估
机器人学
2020-05-05 v1 人机交互
摘要
在机器人学中，主要挑战之一是机载人工智能（AI）必须应对不同或意料之外的环境。此类AI智能体在这些环境中可能能力不足，而底层模型本身可能并未意识到这一点（例如，深度学习模型常常过于自信）。本文提出了两种在线评估AI模型能力的方法，分别适用于事先对能力一无所知的情况，以及事先拥有（语义形式的）能力先验知识的情况。所提出的方法评估当前环境是否为已知环境。若非已知，它会向人类询问关于其能力的反馈。若环境已知，它则通过从先前经验中进行泛化来评估自身能力。基于真实数据的结果显示了能力评估对于机器人在不同环境中移动的价值，在这些环境中，它有时具备能力，有时则不具备。我们讨论了人类在机器人自我评估其能力过程中的角色，以及从人类获取互补信息以强化评估所面临的挑战。
引用
@article{arxiv.2005.01546,
title = {Robotic Self-Assessment of Competence},
author = {Gertjan J. Burghouts and Albert Huizing and Mark A. Neerincx},
journal= {arXiv preprint arXiv:2005.01546},
year = {2020}
}
备注
Presented at the 2020 Workshop on Assessing, Explaining, and Conveying Robot Proficiency for Human-Robot Teaming