基于强化学习的分子性质全局人类引导反事实解释
机器学习
2024-06-21 v1 生物大分子
摘要
图神经网络（GNN）的反事实解释提供了一种强大的理解数据的方法，这些数据可以自然地用图结构表示。此外，在许多领域， deriving data-driven 的全局解释或规则以更好地解释所关注模型和数据的高层属性是高度可取的。然而，由于缺乏人类标注的真实答案，评估全局反事实解释在现实世界数据集中很困难，这限制了其在分子科学等领域的使用。此外，数据集规模的增加为随机搜索方法带来了挑战。本文开发了一种新颖的全局解释模型RLHEX，用于分子性质预测。它将反事实解释与人类定义的原则对齐，使解释更具可解释性，便于专家评估。RLHEX包括一个基于VAE的图生成器来生成全局解释，以及一个适配器来调整潜在表示空间以符合人类定义的原则。通过使用近端策略优化（PPO）进行优化，RLHEX产生的全局解释覆盖了三个分子数据集上输入图的4.12%更多图，平均将反事实解释集合与输入集合之间的距离减少0.47%。RLHEX提供了一个灵活的框架，可将不同人类设计的原则纳入反事实解释生成过程，将这些解释与领域专长对齐。代码和数据已发布于https://github.com/dqwang122/RLHEX
引用
@article{arxiv.2406.13869,
title = {Global Human-guided Counterfactual Explanations for Molecular Properties via Reinforcement Learning},
author = {Danqing Wang and Antonis Antoniades and Kha-Dinh Luong and Edwin Zhang and Mert Kosan and Jiachen Li and Ambuj Singh and William Yang Wang and Lei Li},
journal= {arXiv preprint arXiv:2406.13869},
year = {2024}
}
备注
Accepted by KDD 2024