基于图像的深度强化学习与内在激励刺激:复杂机器人任务的执行
人工智能
2024-08-01 v1 机器学习
摘要
强化学习(RL)已被广泛用于解决环境持续提供密集奖励值的任务。然而,在现实场景中,奖励往往定义不佳或稀疏。辅助信号对于发现高效的探索策略和辅助学习过程不可或缺。在本工作中,受内在动机理论启发,我们假设新颖性和惊讶等内在刺激有助于在复杂、稀疏奖励环境中改善探索。我们提出了一种新颖的样本高效方法,能够直接从像素学习,即NaSA-TD3——一种带有自编码器的TD3图像扩展。实验表明,NaSA-TD3易于训练,是解决复杂连续控制机器人任务的高效方法,适用于模拟环境和真实世界设置。NaSA-TD3在最终性能上超越了现有的最先进基于图像的RL方法,且无需预训练模型或人类演示。
引用
@article{arxiv.2407.21338,
title = {Image-Based Deep Reinforcement Learning with Intrinsically Motivated Stimuli: On the Execution of Complex Robotic Tasks},
author = {David Valencia and Henry Williams and Yuning Xing and Trevor Gee and Minas Liarokapis and Bruce A. MacDonald},
journal= {arXiv preprint arXiv:2407.21338},
year = {2024}
}