面向刑事累犯预测的可解释、公平且准确的机器学习探索
机器学习
2022-03-15 v3 机器学习
应用统计
摘要
目标：我们研究使用机器学习 (ML) 模型进行可解释的累犯预测，并从预测能力、稀疏性和公平性方面分析其性能。与以往工作不同，本研究训练输出概率而非二元预测的可解释模型，并使用定量的公平性定义来评估模型。本研究还考察了模型是否能在不同地理位置间泛化。方法：我们基于来自佛罗里达州和肯塔基州的两个不同刑事累犯数据集，生成了黑盒与可解释的 ML 模型。我们将这些模型的预测性能和公平性与目前司法系统中用于预测审前累犯的两种方法（Arnold PSA 和 COMPAS）进行了比较。我们评估了所有模型在两个时间段内对六种不同犯罪类型的预测性能。结果：多个可解释的 ML 模型对累犯的预测效果与黑盒 ML 模型一样好，且比 COMPAS 或 Arnold PSA 更准确。这些模型在实践中具有潜在用途。与 Arnold PSA 类似，其中一些可解释模型可以写成一个简单的表格。其他模型则可以使用一组可视化图表来展示。我们的地理分析表明，ML 模型应针对不同地点分别训练并随时间更新。我们还对这些可解释模型进行了公平性分析。结论：在预测准确性和公平性方面，可解释机器学习模型的表现与非可解释方法及目前使用的风险评估量表一样好。针对不同地点分别训练并保持更新的机器学习模型可能会更准确。
引用
@article{arxiv.2005.04176,
title = {In Pursuit of Interpretable, Fair and Accurate Machine Learning for Criminal Recidivism Prediction},
author = {Caroline Wang and Bin Han and Bhrij Patel and Cynthia Rudin},
journal= {arXiv preprint arXiv:2005.04176},
year = {2022}
}