ReLAX：面向任意预测模型的强化学习智能体解释器
机器学习
2023-08-10 v2 人工智能
摘要
反事实样本（CFs）是为机器学习（ML）模型附加事后解释最流行的方法之一。然而，现有的 CF 生成方法要么利用特定模型的内部结构，要么依赖于每个样本的邻域，因此难以推广到复杂模型，且在大型数据集上效率低下。本工作旨在克服这些局限，并引入 ReLAX，一种用于生成最优反事实解释的模型无关算法。具体而言，我们将构建 CF 的问题表述为序列决策任务，然后通过具有离散-连续混合动作空间的深度强化学习（DRL）寻找最优 CF。在多个表格数据集上进行的广泛实验表明，ReLAX 优于现有的 CF 生成基线，因为它生成的反事实更稀疏，对需解释的复杂目标模型具有更好的可扩展性，并能推广到分类与回归任务。最后，为展示我们的方法在真实用例中的效用，我们利用 ReLAX 生成的 CF 来建议一个国家应采取哪些行动以降低因 COVID-19 导致的死亡风险。有趣的是，我们的方法推荐的行动与许多国家为应对 COVID-19 大流行实际实施的策略相吻合。
引用
@article{arxiv.2110.11960,
title = {ReLAX: Reinforcement Learning Agent eXplainer for Arbitrary Predictive Models},
author = {Ziheng Chen and Fabrizio Silvestri and Jia Wang and He Zhu and Hongshik Ahn and Gabriele Tolomei},
journal= {arXiv preprint arXiv:2110.11960},
year = {2023}
}