面向自动化 bail 决策的标签不确定性问题

Bail 决策是数据驱动决策支持系统面临的根本性挑战。当 bail 被否决时，被告是否会出庭的反事实结果无法观测。因此，历史 bail 数据嵌入结构性标签不确定性：未来的决策受过去决策的影响，而这些决策的结果仅部分可知。以数据建构的自动化系统风险引入偏见并强化反馈环路。这引出了一个核心问题：面向旨在帮助司法人员的机器学习系统，如何处理在 bail 被否决时的情况？在统一犯罪司法系统宾夕法尼亚州的 bail 决策案例研究中，我们评估了处理标签不确定性的五种当代方法，包括一种受 bail 决策动力学启发的 novel label 填补方法。每种方法都依赖不可验证的假设，但所有方法都会影响模型的预测行为，甚至在某些情况下比模型本身的选择影响更大。可解释 AI 分析进一步表明，这些效果也延续至模型的内部决策过程。最后，我们从法律视角考察标签不确定性问题，评估这些方法在 bail 决策情境下的合法性。