审视算法：巴斯克地区亲密伴侣暴力风险评估工具的算法问责

本文讨论西班牙巴斯克地区引入的一种用于评估亲密伴侣暴力风险的算法工具。该算法旨在解决人类专家短缺的问题，通过控制或暴力行为等心理测量特征自动计算暴力等级。鉴于针对家庭暴力风险评估工具的批判性文献主要关注英语国家，本文在一个非英语地区提供了算法问责分析。它调查了与巴斯克工具相关的算法风险、危害和局限性。我们提出一种来自批判性统计学与法学视角的跨学科方法。该方法揭示了可能导致亲密伴侣暴力受害者面临意外后果的问题与局限。此外，我们的分析表明，该算法工具在严重案件（即施暴者可能杀害其伴侣的案件）上错误率很高——10 起高风险案件中有 5 起被误分类为低风险——且缺乏面向该工具终端用户（法官）的适当法律指引。本文结论认为，该风险评估工具亟需由独立且跨学科的专家进行评估，以更好地缓解亲密伴侣暴力背景下的算法危害。