面向强化学习中的泛化的对称不变Transformer：SiT
机器学习
2024-06-24 v1
摘要
在强化学习（RL）中，一个开放性挑战是如何有效地将训练好的策略部署到新的或稍有不同的情形以及语义相似的环境中。我们引入对称不变Transformer（SiT），这是一种可扩展的视觉Transformer（ViT），它以自监督方式利用局部和全局数据模式，以提高泛化能力。我们方法的核心是图对称注意力机制，该机制细化了传统的自注意力机制，以保持图的对称性，从而产生不变和等变的潜在表示。我们展示了SiT在MiniGrid和Procgen RL基准测试中的优越泛化能力，并在Atari 100k和CIFAR10上的样本效率方面取得佳绩。
关键词
引用
@article{arxiv.2406.15025,
title = {SiT: Symmetry-Invariant Transformers for Generalisation in Reinforcement Learning},
author = {Matthias Weissenbacher and Rishabh Agarwal and Yoshinobu Kawahara},
journal= {arXiv preprint arXiv:2406.15025},
year = {2024}
}
备注
9 main pages, accepted to ICML2024