面向人机交互的多模态安全控制

随着自主系统在现实世界中持续部署，尤其是在人群周围，为其生成安全行为十分重要。在这项工作中，我们专注于为具有多种不确定性来源的系统开发一种新颖的安全控制器。我们提出了一种新颖的多模态安全控制方法，称为多模态安全集算法（MMSSA），适用于智能体对系统所处的离散模态存在不确定性、且每个模态本身还包含额外不确定性的情况。据我们所知，这是首个基于能量函数的安全控制方法应用于具有多模态不确定性的系统。我们将所提控制器应用于一个模拟的人机交互场景，其中机器人不确定人类的真实意图，而每个潜在意图都有其相关的额外不确定性，因为人类并非完全理性的执行者。我们将所提安全控制器与现有安全控制方法进行比较，发现它不会妨碍系统性能（即效率），同时提升了系统的安全性。