公平性感知的离群点集成
机器学习
2021-03-18 v1 人工智能
摘要
离群点集成方法在发现显著异于大多数数据的实例方面表现出卓越性能。然而，若缺乏公平性意识，其在欺诈检测与司法判决系统等伦理场景中的适用性会下降。本文提出通过公平性感知的集成框架来降低离群点集成结果的偏差。由于离群检测任务中缺乏真值，关键挑战在于如何在提升公平性的同时缓解检测性能的退化。为应对该挑战，我们基于常规离群点集成技术的输出定义一种距离度量，以估计与检测性能退化相关的可能代价。同时，我们提出一种后处理框架，通过堆叠过程调整原始集成结果，从而在公平性与检测性能之间取得权衡。检测性能由 ROC 曲线下面积（AUC）度量，而公平性在群体与个体两个层面度量。我们在八个公开数据集上进行了实验。结果证明了所提框架在改善离群点集成结果公平性方面的有效性。我们还分析了 AUC 与公平性之间的权衡。
引用
@article{arxiv.2103.09419,
title = {Fairness-aware Outlier Ensemble},
author = {Haoyu Liu and Fenglong Ma and Shibo He and Jiming Chen and Jing Gao},
journal= {arXiv preprint arXiv:2103.09419},
year = {2021}
}
备注
12 pages