对抗训练尚未准备好用于机器人学习
机器学习
2021-03-16 v1
摘要
对抗训练是一种训练深度学习模型的有效方法，可使模型对范数有界扰动具有韧性，代价是标称性能下降。尽管对抗训练似乎能增强部署在开放世界决策关键应用中的深度模型的鲁棒性与安全性，但反直觉地，它在机器人学习设定中会引发非预期行为。本文中，我们从理论与实验上表明，通过对抗训练获得的神经控制器存在三类缺陷，即瞬态、系统性与条件性错误。我们首先将对抗训练推广至允许更通用规范的安全域优化方案。随后我们证明此类学习过程倾向于导致特定错误轮廓。我们通过机器人学习任务中详尽的实验安全性分析支撑理论结果。我们的结果表明，对抗训练尚未准备好用于机器人学习。
引用
@article{arxiv.2103.08187,
title = {Adversarial Training is Not Ready for Robot Learning},
author = {Mathias Lechner and Ramin Hasani and Radu Grosu and Daniela Rus and Thomas A. Henzinger},
journal= {arXiv preprint arXiv:2103.08187},
year = {2021}
}
备注
Accepted at the IEEE International Conference on Robotics and Automation (ICRA) 2021