基于视觉的人机监督回路机器人系统中的自适应自主性
软件工程
2021-03-30 v1 计算机视觉与模式识别
摘要
计算机视觉方法被广泛用于自主机器人系统以感知周围环境，并指导其在执行避碰、搜索救援和物体操控等多样任务中的决策。高精度至关重要，特别是对于人机监督回路（HoTL）系统，其中决策由系统自主做出，人类仅起监督作用。视觉模型的失效可能导致错误决策，带来潜在的生死后果。本文提出一种基于自适应自主性级别的解决方案，系统据此检测这些模型可靠性的丧失，并通过临时降低自身自主性级别并增加人类在决策过程中的参与来响应。我们的解决方案适用于人类有时间反应并提供指导的基于视觉的任务。实现时，我们的方法将通过考虑模型的不确定性，并执行协变量分析以确定当前运行环境与模型训练数据不匹配的时机，来估计视觉任务的可靠性。我们给出来自DroneResponse的示例，其中小型无人机系统被部署用于应急响应任务，并展示如何将视觉模型的可靠性与置信度分数结合使用，以驱动并指定系统自主性的行为与自适应。本研讨会论文概述了我们提出的方法，并描述了在计算机视觉与软件工程交叉领域中，于自主系统决策中安全可靠部署视觉模型所面临的开放挑战。
引用
@article{arxiv.2103.15053,
title = {Adaptive Autonomy in Human-on-the-Loop Vision-Based Robotics Systems},
author = {Sophia Abraham and Zachariah Carmichael and Sreya Banerjee and Rosaura VidalMata and Ankit Agrawal and Md Nafee Al Islam and Walter Scheirer and Jane Cleland-Huang},
journal= {arXiv preprint arXiv:2103.15053},
year = {2021}
}