基于公平投影的公平性感知异常检测
机器学习
2025-05-19 v1
摘要
无监督异常检测是许多高社会影响应用中的关键任务，如金融、医疗、社交媒体和网络安全等领域，常常会使用涉及年龄、性别、种族、疾病等的人口统计信息。在这些场景下，可能来自异常检测系统的偏见可能导致不同群体受到不公平的对待，甚至加剧社会偏见。在本工作中，我们首先深入分析了在无监督异常检测中确保群体公平性的可行性和必要假设。其次，我们提出了一种新颖的公平性感知异常检测方法FairAD。从正常训练数据中，FairAD学习一个投影，将不同人口统计群体的数据映射到一个简单紧凑的共同目标分布，从而提供可靠的基准用于估计数据密度。该密度可直接用于识别异常，而共同的目标分布确保了不同群体之间的公平性。此外，我们提出了一种无阈值的公平性度量标准，提供模型公平性的全局视图，消除对手动阈值选择的依赖。在真实基准上的实验表明，在不同群体之间的数据在平衡或偏斜的情况下，我们的方法在检测准确性和公平性之间实现了 improved 的权衡。
引用
@article{arxiv.2505.11132,
title = {Fairness-aware Anomaly Detection via Fair Projection},
author = {Feng Xiao and Xiaoying Tang and Jicong Fan},
journal= {arXiv preprint arXiv:2505.11132},
year = {2025}
}