强化学习与规划中能否利用欧氏对称性?
机器学习
2023-07-18 v1 机器人学
摘要
在机器人任务中,参考系的改变通常不影响系统底层物理属性,此即物理定律的不变性。这些保持距离的改变包含平移、旋转与反射等等距变换,统称为欧氏群。本工作中,我们深入探讨针对具有欧氏群对称性的强化学习与规划任务设计改进学习算法。我们提出一种理论,统一了先前关于强化学习、规划与最优控制中离散与连续对称性的工作。算法方面,我们将基于值的规划的 2D 路径规划进一步扩展至连续 MDP,并提出构建等变基于采样的规划算法之流程。我们的工作由实证证据支撑,并通过阐释欧氏对称性等变在自然控制问题中益处的示例加以说明。
引用
@article{arxiv.2307.08226,
title = {Can Euclidean Symmetry be Leveraged in Reinforcement Learning and Planning?},
author = {Linfeng Zhao and Owen Howell and Jung Yeon Park and Xupeng Zhu and Robin Walters and Lawson L. S. Wong},
journal= {arXiv preprint arXiv:2307.08226},
year = {2023}
}
备注
Preprint. Website: http://lfzhao.com/SymCtrl