多视角 Dreaming：基于对比学习的多视角世界模型

本文中，我们提出 Multi-View Dreaming，一种新颖的强化学习智能体，通过扩展 Dreaming 从多视角观测中进行集成识别与控制。当前大多数强化学习方法假设单视角观测空间，这给观测数据带来局限，例如缺乏空间信息与遮挡。这使得从环境中获取理想的观测信息十分困难，并成为真实世界机器人应用的瓶颈。本文中，我们使用对比学习在不同视角间训练共享潜空间，并展示专家乘积（Products of Experts）方法如何用于集成并控制多视角潜状态的概率分布。我们还提出 Multi-View DreamingV2，一种 Multi-View Dreaming 的变体，使用类别分布而非高斯分布来建模潜状态。实验表明，所提方法在真实机器人控制任务中优于现有方法的简单扩展。