通过反事实解释黑盒模型
机器学习
2023-08-15 v1 人工智能
编程语言
摘要
我们推出 CounterfactualExplanations.jl：一个用于在 Julia 中为黑盒模型生成反事实解释（CE）与算法补救（AR）的包。CE 解释模型输入需作何改变才能产生特定的模型预测。涉及真实且可操作变化的解释可用于提供 AR：为个体提出的一组行动，以将不良结果向更好方向改变。本文中，我们讨论 CE 对于可解释人工智能的用处，并演示我们包的功能。该包使用直接，设计侧重于定制与可扩展。我们期望有朝一日它能通过多样化的反事实生成器套件，成为 Julia 中解释任意预测模型的首选之处。
引用
@article{arxiv.2308.07198,
title = {Explaining Black-Box Models through Counterfactuals},
author = {Patrick Altmeyer and Arie van Deursen and Cynthia C. S. Liem},
journal= {arXiv preprint arXiv:2308.07198},
year = {2023}
}
备注
13 pages, 9 figures, originally published in The Proceedings of the JuliaCon Conferences (JCON)