黑盒决策系统中面向现实的个体补救与可操作解释
机器学习
2019-07-24 v1 机器学习
摘要
基于机器学习的决策系统正日益影响人类。个体可能在此类决策系统下遭受不良结果（例如信贷被拒），无论该决策是否公平或准确。个体补救涉及提供一套可操作的变更，使个人能够采取以改善其结果。我们提出一种补救算法，对底层数据分布或流形进行建模。随后我们提供一种机制，生成可改善个体结果的最小变更集。该机制可轻易用于为任何可微分的基于机器学习的决策系统提供补救。进一步，所得算法被证明适用于监督分类与因果决策系统。我们的工作试图填补现有公平性文献中的空白，这些文献主要聚焦于发现及/或算法式地强制施加决策系统上的公平性约束。本工作也提供了生成反事实解释的一种替代方法。
引用
@article{arxiv.1907.09615,
title = {Towards Realistic Individual Recourse and Actionable Explanations in Black-Box Decision Making Systems},
author = {Shalmali Joshi and Oluwasanmi Koyejo and Warut Vijitbenjaronk and Been Kim and Joydeep Ghosh},
journal= {arXiv preprint arXiv:1907.09615},
year = {2019}
}