通过残差策略梯度方法利用类抽象实现常识强化学习
人工智能
2022-05-03 v2 机器学习
摘要
使强化学习(RL)智能体在从经验中学习的同时利用知识库,有望推动RL在知识密集型领域的发展。然而,利用未手动适配环境的知识一直十分困难。我们提议利用开源知识图中存在的子类关系,从特定对象中进行抽象。我们开发了一种残差策略梯度方法,能够整合类层次结构中不同抽象层级的知识。我们的方法在常识游戏中提升了样本效率并泛化至未见对象,但我们也研究了失败模式,例如提取的类知识中噪声过大或环境类结构稀少。
引用
@article{arxiv.2201.12126,
title = {Leveraging class abstraction for commonsense reinforcement learning via residual policy gradient methods},
author = {Niklas Höpner and Ilaria Tiddi and Herke van Hoof},
journal= {arXiv preprint arXiv:2201.12126},
year = {2022}
}