MEG：为深度图网络生成分子反事实解释
机器学习
2021-04-19 v1
摘要
可解释人工智能（XAI）是一个旨在提升不透明机器学习技术可信度并揭示其隐藏机制的研究领域。当此类模型应用于化学领域时，这一点变得愈发重要，因其对人类健康具有潜在影响，例如药理学中的毒性分析。本文提出一种新方法，用于解决分子性质预测任务中深度图网络可解释性问题，名为 MEG（Molecular Explanation Generator，分子解释生成器）。我们针对特定预测生成信息丰富的反事实解释，形式为具有高度结构相似性且预测性质不同的（有效）化合物。给定训练好的深度图网络（DGN），我们训练一个基于强化学习的生成器以输出反事实解释。在每一步，MEG将当前候选反事实输入DGN，收集预测结果并用其奖励强化学习智能体以引导探索。此外，我们限制智能体的动作空间，仅保留使分子保持有效状态的动作。我们讨论了相关结果，展示了该模型如何向非机器学习专家传达关于学习模型在分子邻域内关注点的关键洞见。
引用
@article{arxiv.2104.08060,
title = {MEG: Generating Molecular Counterfactual Explanations for Deep Graph Networks},
author = {Danilo Numeroso and Davide Bacciu},
journal= {arXiv preprint arXiv:2104.08060},
year = {2021}
}
备注
8 pages, 5 figures, to appear in the Proceedings of the 2021 International Joint Conference on Neural Networks (IJCNN 2021)