IFBiD：免推理偏置检测
计算机视觉与模式识别
2022-05-24 v4
摘要
本文首次探索了一种仅通过观察权重来自动检测深度卷积神经网络中偏置的方法。此外，这也是迈向理解神经网络及其工作原理的一步。我们表明，仅通过观察模型的权重，而无需对特定输入进行模型推理，确实有可能知道模型是否存在偏置。我们使用 Colored MNIST 数据库通过一个简单示例分析了偏置如何编码在深度网络的权重中，并使用最先进的方法和实验资源提供了一个从人脸图像中进行性别检测的现实案例研究。为此，我们生成了两个分别包含 36K 和 48K 个偏置模型的数据集。对于 MNIST 模型，我们能够以超过 99% 的准确率检测其是否存在强偏置或低偏置，并且能够以超过 70% 的准确率对四个偏置等级进行分类。对于人脸模型，我们在区分偏向亚洲人、黑人或白人族裔的模型时达到了 90% 的准确率。
引用
@article{arxiv.2109.04374,
title = {IFBiD: Inference-Free Bias Detection},
author = {Ignacio Serna and Daniel DeAlcala and Aythami Morales and Julian Fierrez and Javier Ortega-Garcia},
journal= {arXiv preprint arXiv:2109.04374},
year = {2022}
}
备注
AAAI Workshop on Artificial Intelligence Safety (SafeAI)