CoBERL:用于强化学习的对比式BERT
机器学习
2022-02-23 v2 人工智能
摘要
许多强化学习(RL)智能体需要大量经验来解决任务。我们提出用于RL的对比式BERT(CoBERL),一种结合新的对比损失与混合LSTM-transformer架构以应对提高数据效率挑战的智能体。CoBERL实现了跨广泛领域从像素进行高效、鲁棒的学习。我们使用双向掩码预测并结合近期对比方法的推广,为RL中的transformer学习更好的表示,而无需手工设计的数据增强。我们发现CoBERL在完整的Atari套件、一组控制任务和一个具挑战性的3D环境中一致地提升了性能。
引用
@article{arxiv.2107.05431,
title = {CoBERL: Contrastive BERT for Reinforcement Learning},
author = {Andrea Banino and Adrià Puidomenech Badia and Jacob Walker and Tim Scholtes and Jovana Mitrovic and Charles Blundell},
journal= {arXiv preprint arXiv:2107.05431},
year = {2022}
}
备注
9 pages, 2 figures, 6 tables