CODEX：一种基于聚类的可解释强化学习方法
机器学习
2023-12-08 v1
摘要
尽管强化学习展示了令人印象深刻的成就，但由于当前在解释强化学习智能体行为和建立用户信任方面的困难，这些算法在高风险的实际应用中很少被采用。我们提出了用于解释的反事实演示（CODEX），一种结合语义聚类的方法，可以有效地总结状态-动作空间中的强化学习智能体行为。在MiniGrid和StarCraft II游戏环境上的实验表明，语义聚类保留了时间和实体信息，这反映在构建的智能体行为摘要中。此外，对离散+连续游戏状态潜在表示的聚类识别了最关键的情节事件，展示了潜在空间和语义空间之间的关系。这项工作为通过利用和扩展自然语言处理技术来释放强化学习广泛使用潜力的日益增长的研究做出了贡献。
引用
@article{arxiv.2312.04216,
title = {CODEX: A Cluster-Based Method for Explainable Reinforcement Learning},
author = {Timothy K. Mathes and Jessica Inman and Andrés Colón and Simon Khan},
journal= {arXiv preprint arXiv:2312.04216},
year = {2023}
}
备注
Presented at the International Joint Conference on Artificial Intelligence (IJCAI) 2023 Workshop on Explainable Artificial Intelligence (XAI)