通过任务感知生成式不确定性实现对分布外输入的鲁棒性
机器学习
2018-12-31 v1 机器学习
摘要
当观测类似于训练数据时，深度学习为机器感知提供了强大的工具。然而，真实世界的机器人系统即使在意外情况下也必须对其观测做出智能反应。这要求系统在不熟悉、分布外的观测下推理其自身的不确定性。近似贝叶斯方法常用于估计神经网络预测的不确定性，但可能难以应对分布外观测。生成模型原则上可将分布外观测检测为具有低估计密度的那些观测。然而，分布外输入的存在本身并不表示不安全的情况。在本文中，我们提出了一种结合生成建模与模型不确定性的不确定性感知机器人感知方法，以应对源自分布外状态的不确定性。我们的方法估计关于模型预测的不确定性度量，考虑到观测分布的显式（生成）模型来处理分布外输入。这是通过将观测概率性地投影到训练分布上来实现的，使得分布外输入映射为不确定的分布内观测，进而产生不确定的任务相关预测，但仅当图像中任务相关的部分发生变化时如此。我们在动作条件的碰撞预测任务上以模拟和真实数据评估了我们的方法，并证明我们这种投影分布外观测的方法改善了四种标准贝叶斯与非贝叶斯神经网络方法的性能，在机器人可保持自主的时间比例与成功避免的即将发生碰撞的比例之间提供了更有利的权衡。
引用
@article{arxiv.1812.10687,
title = {Robustness to Out-of-Distribution Inputs via Task-Aware Generative Uncertainty},
author = {Rowan McAllister and Gregory Kahn and Jeff Clune and Sergey Levine},
journal= {arXiv preprint arXiv:1812.10687},
year = {2018}
}