基于神经辐射场的强化学习
机器学习
2022-06-06 v1 计算机视觉与模式识别
机器人学
摘要
为训练强化学习（RL）智能体寻找有效的表示是一个长期存在的问题。本文表明，与从其他学习到的表示甚至低维、手工设计的状态信息相比，利用神经辐射场（NeRFs）的监督来学习状态表示能够提升 RL 的性能。具体而言，我们提出训练一个编码器，将多张图像观测映射到描述场景中物体的潜空间。由潜条件 NeRF 构建的解码器作为监督信号来学习该潜空间。随后，一个 RL 算法在学到的潜空间上以其作为状态表示进行运作。我们称之为 NeRF-RL。我们的实验表明，以 NeRF 作为监督得到的潜空间更适用于涉及机器人物体操作的下游 RL 任务，例如将杯子挂到钩子上、推动物体或开门。视频：https://dannydriess.github.io/nerf-rl
引用
@article{arxiv.2206.01634,
title = {Reinforcement Learning with Neural Radiance Fields},
author = {Danny Driess and Ingmar Schubert and Pete Florence and Yunzhu Li and Marc Toussaint},
journal= {arXiv preprint arXiv:2206.01634},
year = {2022}
}