异常检测中的公平性基础——基于面部成像数据的案例研究

深度异常检测（AD）可能是最具争议性的数据分析任务，因为它识别出被特定针对进一步调查或排除的实体。将AI应用于面部成像数据同样具有争议。本工作探讨了这两个领域的交叉，以理解两个核心问题："这些算法对谁不公平"以及 equally important "为何"。最近的研究表明，深度AD即使是无监督的，对不同群体也可能不公平，且近期研究显示，对人物肖像而言，男性种族裔更容易被选为异常值。我们研究两种主要的AD算法类别：基于自编码器的和单类-based，这两种方法有效地尝试压缩所有实例，而那些难以压缩的则被视为异常值。我们实验验证了诸如群体欠represent（例如，种族裔人相对稀少）、伪群体特征（例如，男性常被拍摄时戴帽子）以及群体标签噪声（例如，种族是主观的）等不公平性来源。我们推断缺乏压缩性是主要基础，其他因素会导致其不公平，但实验结果表明情况并非如此，我们呈现了一个自然的层次结构。