基于量子启发复值网络解读刑事指控预测及其算法偏差
机器学习
2021-07-15 v2
摘要
尽管预测性警务在辅助刑事司法系统决策中已愈发常见，这些结果的使用仍具争议。部分基于深度学习的软件缺乏准确性（例如在F-1上），且重要的是许多决策过程不透明，引发对决策偏差的质疑，如所感知的种族与年龄差异。本文通过事后解释处理偏差问题，利用二十年间学习时序行为模式，提供可信任的预测：给定某人既往犯罪记录，其是否会面临未来刑事指控。Bi-LSTM缓解了梯度消失问题，注意力机制得以学习与解释特征重要性，而受量子物理启发的复值网络促进了建模决策过程中的一定程度透明性。我们的方法在真实数据集上展现出一致且可靠的预测精确率与召回率。我们对各输入特征重要性的分析显示了其对决策的关键因果影响，表明犯罪史为统计显著因素，而种族与年龄等标识符则非如此。最后，我们的算法指出，嫌疑人的犯罪严重程度随时间趋于逐渐而非突增。
引用
@article{arxiv.2106.13456,
title = {Interpreting Criminal Charge Prediction and Its Algorithmic Bias via Quantum-Inspired Complex Valued Networks},
author = {Abdul Rafae Khan and Jia Xu and Peter Varsanyi and Rachit Pabreja},
journal= {arXiv preprint arXiv:2106.13456},
year = {2021}
}
备注
First two authors alphabetically ordered