CARLA:用于基准测试算法补救与反事实解释算法的 Python 库
机器学习
2022-12-16 v1 人工智能
摘要
反事实解释通过建议可操作的特征改变(例如增加收入)来提供规范性模型解释,使个体能够在未来获得有利结果(例如保险审批)。选择合适的方法是获得有意义反事实解释的关键方面。正如近期综述所记载,现有可用方法的相关文献正在快速增长。然而,在缺乏广泛可用的开源实现的情况下,对特定模型的抉择主要基于其易得性。展望未来——为保证跨解释方法的有意义比较——我们提出 CARLA(Counterfactual And Recourse LibrAry,反事实与补救库),一个用于跨不同数据集和不同机器学习模型基准测试反事实解释方法的 Python 库。总之,我们的工作贡献如下:(i) 对 11 种流行反事实解释方法的广泛基准测试,(ii) 用于未来反事实解释方法研究的基准测试框架,以及 (iii) 一套标准化的集成评估度量与数据集,用于这些方法的透明且广泛的比较。我们已在 Github 上开源 CARLA 及实验结果,将其作为竞争性基线提供。我们欢迎其他研究小组与从业者的贡献。
引用
@article{arxiv.2108.00783,
title = {CARLA: A Python Library to Benchmark Algorithmic Recourse and Counterfactual Explanation Algorithms},
author = {Martin Pawelczyk and Sascha Bielawski and Johannes van den Heuvel and Tobias Richter and Gjergji Kasneci},
journal= {arXiv preprint arXiv:2108.00783},
year = {2022}
}
备注
Accepted to NeurIPS Benchmark & Data Set Track