干预而非预测：重构精算风险评估的伦理辩论
机器学习
2018-07-17 v2 计算机与社会
应用统计
摘要
精算风险评估可能被不当地视为一种中立的方式，用以抵消隐性偏见并提高刑事司法系统几乎每个环节（从审前释放到量刑、假释与缓刑）中决策的公平性。近来这些评估受到越来越多的审视，批评者声称其背后的统计技术可能会复制数据中反映的现有歧视模式与历史偏见。该辩论大多围绕相互竞争的公平性与预测准确性概念展开，依赖于对有争议地充当受法律反歧视保护特征（如种族与性别）之“代理变量”的使用。我们认为，围绕在风险评估中使用回归的核心伦理辩论不仅仅是偏见或准确性的问题，而是目的的问题。如果机器学习仅仅被用于预测个体未来犯罪，那么就难以打破由刑事司法系统自身的医源性效应所驱动的犯罪化循环。我们主张机器学习不应用于预测，而应被用于揭示协变量，并将其输入因果模型以理解犯罪的社会、结构与心理驱动因素。我们提出了一种替代性的机器学习与因果推断应用，从预测风险分数转向风险缓解。
引用
@article{arxiv.1712.08238,
title = {Interventions over Predictions: Reframing the Ethical Debate for Actuarial Risk Assessment},
author = {Chelsea Barabas and Karthik Dinakar and Joichi Ito and Madars Virza and Jonathan Zittrain},
journal= {arXiv preprint arXiv:1712.08238},
year = {2018}
}
备注
Accepted paper (not camera-ready version) of FATML 2018 conference, Fairness, Accountability and Transparency in Machine Learning, 2018, Proceedings of Machine Learning Research