面向误差感知的基于模型的强化学习的边界框推理
机器学习
2024-06-25 v1 人工智能
摘要
在基于模型的强化学习中,来自所学模型的模拟经验通常被视为等同于来自真实环境的经验。然而,当模型不准确时,它可能会灾难性地干扰策略学习。或者,智能体可以学习模型的准确性,并仅在模型能够提供可靠预测时选择性地使用它。我们通过实验探索了用于选择性规划的模型不确定性度量,并表明,为了估计基于模型更新的不确定性,最佳结果需要分布不敏感的推理。为此,我们提出并评估了边界框推理,它在一组可能状态和其他量的边界框上进行操作。我们发现,边界框推理可以可靠地支持有效的选择性规划。
引用
@article{arxiv.2406.16006,
title = {Bounding-Box Inference for Error-Aware Model-Based Reinforcement Learning},
author = {Erin J. Talvitie and Zilei Shao and Huiying Li and Jinghan Hu and Jacob Boerma and Rory Zhao and Xintong Wang},
journal= {arXiv preprint arXiv:2406.16006},
year = {2024}
}
备注
To appear: Reinforcement Learning Conference (RLC), 2024