交易欺诈模型中的公平性评估：公平性指标、偏差审计与挑战
机器学习
2024-09-09 v1
摘要
确保交易欺诈检测模型的公平性至关重要，因为偏见的决策可能导致伤害和法律后果。尽管在算法公平性方面有大量研究，但在欺诈检测模型中存在偏差的研究仍显著不足，主要是由于该领域的独特挑战。这些挑战包括需要考虑欺诈数据不平衡性的公平性指标，以及在欺诈保护和服务质量之间的权衡。为解决这一问题，我们使用公共合成数据集对交易欺诈模型进行全面的公平性评估，标志着该领域首次进行算法偏差审计。我们的发现揭示了三个关键见解：(1) 某些公平性指标在标准化后才暴露出显著偏差，凸显了类别不平衡的影响。(2) 偏差在与服务质量相关的公平性指标和与欺诈保护相关的公平性指标中都很显著。(3) 通过消除敏感属性（如性别）来实现的“无知公平性”方法，在这些数据集中并未改善偏差缓解，可能是由于存在相关的代理因素。我们还讨论了交易欺诈模型中的社会技术公平性挑战。这些见解凸显了在欺诈检测中采用细致的方法来平衡保护和服务质量，以及超越简单偏差缓解策略的必要性。未来工作必须聚焦于细化公平性指标并开发针对交易欺诈领域独特性复杂性的偏差缓解方法。
引用
@article{arxiv.2409.04373,
title = {Evaluating Fairness in Transaction Fraud Models: Fairness Metrics, Bias Audits, and Challenges},
author = {Parameswaran Kamalaruban and Yulu Pi and Stuart Burrell and Eleanor Drage and Piotr Skalski and Jason Wong and David Sutton},
journal= {arXiv preprint arXiv:2409.04373},
year = {2024}
}