SkillTree:面向长时程控制任务的基于技能的可解释深度强化学习
机器学习
2026-05-25 v1 人工智能
摘要
深度强化学习(DRL)在各个研究领域取得了显著成功。然而,其对神经网络的依赖导致缺乏透明度,限制了其实际应用。为了实现可解释性,决策树已成为神经网络的一种流行且有前景的替代方案。尽管如此,由于表达能力有限,传统决策树在处理高维长时程连续控制任务时存在困难。在本文中,我们提出了 SkillTree,一种将复杂连续动作空间简化为离散技能空间的新框架。我们的分层方法在高层策略中集成了一个可微决策树以生成技能嵌入,随后指导低层策略执行技能。通过使技能决策具备可解释性,我们实现了技能级的可解释性,增强了对复杂任务中决策过程的理解。实验结果表明,我们的方法在复杂的机械臂控制领域实现了与基于技能的神经网络相当的性能。此外,SkillTree 在技能层面提供了解释,从而提高了决策过程的透明度。
引用
@article{arxiv.2411.12173,
title = {SkillTree: Explainable Skill-Based Deep Reinforcement Learning for Long-Horizon Control Tasks},
author = {Yongyan Wen and Siyuan Li and Rongchang Zuo and Lei Yuan and Hangyu Mao and Peng Liu},
journal= {arXiv preprint arXiv:2411.12173},
year = {2026}
}