BENN：基于深度神经网络的偏差估计方法
机器学习
2020-12-24 v1 计算机与社会
摘要
检测机器学习（ML）模型中偏差的需求促使了多种偏差检测方法的开发，然而使用这些方法具有挑战性，因为每种方法：i）探究偏差的不同伦理方面，可能导致不同方法之间的输出相互矛盾；ii）提供不同范围/量级的输出，因此无法与其他方法比较；iii）需要不同的输入，因此需要人类专家根据被检测模型调整每种方法。在本文中，我们提出 BENN——一种使用预训练无监督深度神经网络的新型偏差估计方法。给定一个 ML 模型和数据样本，BENN 基于模型的预测为每个特征提供偏差估计。我们使用三个基准数据集和一家欧洲电信公司使用的专有流失预测模型对 BENN 进行了评估，并将其与 21 种现有偏差估计方法的集成进行了比较。评估结果凸显了 BENN 相对于该集成的显著优势，因为它具有通用性（即可应用于任何 ML 模型）且无需领域专家，同时提供的偏差估计与该集成的结果一致。
引用
@article{arxiv.2012.12537,
title = {BENN: Bias Estimation Using Deep Neural Network},
author = {Amit Giloni and Edita Grolman and Tanja Hagemann and Ronald Fromm and Sebastian Fischer and Yuval Elovici and Asaf Shabtai},
journal= {arXiv preprint arXiv:2012.12537},
year = {2020}
}