神经单纯形架构
人工智能
2020-03-26 v2 系统与控制
系统与控制
摘要
我们提出了神经单纯形架构（NSA），一种新的运行时保证方法，为神经控制器（例如通过强化学习获得）提供安全保障，用于自主系统和其他复杂系统，而不会过度牺牲性能。NSA受Sha等人的单纯形控制架构启发，但有一些显著差异。在传统方法中，高级控制器（AC）被视为黑盒；当决策模块将控制切换到基线控制器（BC）时，BC将永远保持控制。关于将控制切换回AC的工作相对较少，并且没有技术可以在AC生成可能不安全的控制输入导致故障切换到BC后纠正其行为。我们的NSA解决了这两个限制。NSA不仅在存在可能不安全的神经控制器时提供安全保证，而且还可以通过在线重训练来提高此类控制器的安全性，而不会过度降低其性能。为了展示NSA的优势，我们在连续控制领域进行了几个重要的案例研究。这些包括一个在障碍物场中导航的寻址地面漫游车，以及一个人工胰腺系统的神经控制器。
引用
@article{arxiv.1908.00528,
title = {Neural Simplex Architecture},
author = {Dung T. Phan and Radu Grosu and Nils Jansen and Nicola Paoletti and Scott A. Smolka and Scott D. Stoller},
journal= {arXiv preprint arXiv:1908.00528},
year = {2020}
}
备注
12th NASA Formal Methods Symposium (NFM 2020)