中文

DEAR:用于无需重构的强化学习中的解耦环境与智能体表征

计算机视觉与模式识别 2024-10-24 v2

摘要

强化学习(RL)算法能够从视觉观察中学习机器人控制任务,但在视觉场景复杂且非结构化时往往需要大量数据。本文探讨了智能体对自身形状认知如何提高视觉RL方法的样本效率。我们提出了一种新方法,解耦环境与智能体表征(Disentangled Environment and Agent Representations, DEAR),通过特征分离约束,利用智能体分割掩码作为监督信号,学习环境与智能体的解耦表征。与之前方法不同,DEAR无需对视觉观察进行重构。这些表征被用作RL目标的辅助损失,鼓励智能体聚焦于环境的相关特征。我们在两个具有挑战性的基准测试上评估了DEAR:Distracting DeepMind控制套件和Franka厨房操作任务。我们的发现表明,DEAR在样本效率方面超越了当前最先进的方法,以较少参数实现了相当或更好的性能。我们的结果表明,将智能体知识集成到视觉RL方法中,有望提高其学习效率和鲁棒性。

关键词

引用

@article{arxiv.2407.00633,
  title  = {DEAR: Disentangled Environment and Agent Representations for Reinforcement Learning without Reconstruction},
  author = {Ameya Pore and Riccardo Muradore and Diego Dall'Alba},
  journal= {arXiv preprint arXiv:2407.00633},
  year   = {2024}
}

备注

6 pages, 7 figures, 2 tables. Accepted at 2024 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2024)