面向感知与控制的目标关键点无监督学习
计算机视觉与模式识别
2019-11-21 v2 机器学习
摘要
计算机视觉中对目标表示的研究主要集中于开发对下游任务（如图像分类、目标检测或语义分割）有用的表示。本文旨在学习对控制与强化学习（RL）有用的目标表示。为此，我们引入了 Transporter，一种通过关键点或图像空间坐标来发现简洁几何目标表示的神经网络架构。该方法以完全无监督的方式从原始视频帧中学习，通过关键点瓶颈在视频帧之间传输学习到的图像特征。所发现的关键点能够比近期类似方法更准确地跨长时间范围跟踪目标及其部件。此外，一致的长期跟踪在控制领域带来了两项显著成果——（1）使用关键点坐标及对应的图像特征作为输入，可实现高样本效率的强化学习；（2）通过控制关键点位置来学习探索，大幅缩减了搜索空间，从而在没有任何外部奖励的情况下实现深度探索（达到随机动作探索无法到达的状态）。
引用
@article{arxiv.1906.11883,
title = {Unsupervised Learning of Object Keypoints for Perception and Control},
author = {Tejas Kulkarni and Ankush Gupta and Catalin Ionescu and Sebastian Borgeaud and Malcolm Reynolds and Andrew Zisserman and Volodymyr Mnih},
journal= {arXiv preprint arXiv:1906.11883},
year = {2019}
}
备注
In NeurIPS 2019. Code https://github.com/deepmind/deepmind-research/tree/master/transporter