基于信息的深度强化学习智能体解释方法——以大型开源国际象棋模型为例
机器学习
2023-09-19 v1 人工智能
摘要
随着 AlphaZero 等大型国际象棋对弈神经网络模型在计算机国际象棋领域挑战最先进水平，两个挑战随之出现：如何解释此类模型内化的领域知识，以及此类模型未公开可用的问题。本工作通过使用具有可比性能的大型开源国际象棋模型，重新实现了 McGrath 等人（2022）中应用于 AlphaZero 的概念检测方法。我们仅依靠开源资源便获得了与 AlphaZero 上相近的结果。我们还提出了一种新颖的可解释 AI（XAI）方法，该方法保证详尽且排他地高亮被解释模型所使用的信息。该方法生成适用于具有离散输入空间领域（如国际象棋）的视觉解释。我们提出的方法具有控制任意输入向量与给定模型之间信息流的理想特性，进而就训练模型在推理期间所用信息提供严格保证。我们通过将该方法应用于标准 8x8 国际象棋并使用大型开源国际象棋模型，证明了其可行性。
引用
@article{arxiv.2309.09702,
title = {Information based explanation methods for deep learning agents -- with applications on large open-source chess models},
author = {Patrik Hammersborg and Inga Strümke},
journal= {arXiv preprint arXiv:2309.09702},
year = {2023}
}
备注
Additional code available at https://github.com/patrik-ha/ii-map