基于Swin Transformers的深度强化学习
机器学习
2024-06-25 v4
摘要
Transformers 是利用多层自注意力头的神经网络模型，已在自然语言处理任务中展现出巨大潜力。同时，已有研究致力于将 transformers 适配于机器学习的视觉任务，包括 Vision Transformers 与 Swin Transformers。尽管一些研究者将 Vision Transformers 用于强化学习任务，但由于计算成本高昂，其实验仍停留在小规模上。本文提出首个基于 Swin Transformers 的在线强化学习方案：Swin DQN。与现有研究不同，我们的新方法在 Arcade Learning Environment 的 49 个游戏上通过实验展示了优越性能。结果显示，我们的方法在全部 49 个游戏中的 45 个（92%）取得了显著高于基线方法的最大评估分数，并在全部 49 个游戏中的 40 个（82%）取得了高于基线方法的平均评估分数。
引用
@article{arxiv.2206.15269,
title = {Deep Reinforcement Learning with Swin Transformers},
author = {Li Meng and Morten Goodwin and Anis Yazidi and Paal Engelstad},
journal= {arXiv preprint arXiv:2206.15269},
year = {2024}
}