超越个体化补救:可解释且可交互的可行动补救摘要
机器学习
2020-10-30 v3 机器学习
摘要
随着预测模型日益部署于高风险决策中,开发能为受影响个体提供补救(recourse)的算法引起了大量关注。虽然开发此类工具很重要,但更为关键的是在分析并解释预测模型,并在其部署于现实之前彻底审查,以确保其提供的补救是有意义且非歧视性的。为此,我们提出一种称为可行动补救摘要(AReS)的模型无关新颖框架,以构建全局反事实解释,为整个人群提供可解释且准确的补救摘要。我们制定了一个新颖目标,在优化补救正确性的同时优化解释的可解释性,并最小化整个人群的总体补救成本。更具体地,我们的目标使我们能够以补救正确性的最优性保证,学习少量紧凑规则集,每个规则集捕获数据中定义良好的子人群的补救。我们还从理论上证明,先前提出的若干用于为个体生成补救的方法均为我们框架的特例。使用真实世界数据集的实验评估和用户研究表明,我们的框架可为决策者提供对应于任意黑盒模型的补救全面概览,从而有助于检测不良的模型偏差与歧视。
引用
@article{arxiv.2009.07165,
title = {Beyond Individualized Recourse: Interpretable and Interactive Summaries of Actionable Recourses},
author = {Kaivalya Rawal and Himabindu Lakkaraju},
journal= {arXiv preprint arXiv:2009.07165},
year = {2020}
}