将卷积核尺寸与人脸分析CNN的泛化偏差相关联
计算机视觉与模式识别
2023-12-05 v2 机器学习
统计方法学
摘要
在解释神经网络的算法偏差时，训练数据集偏差迄今为止是被审视最多的因素。相比之下，与神经网络架构相关的超参数在很大程度上被忽视，尽管已知不同的网络参数化会在学习到的特征上诱导不同的隐式偏差。例如，已知卷积核尺寸会影响CNN中学习到的特征的频率内容。在这项工作中，我们提出了一个将架构超参数与分布外算法偏差相关联的因果框架。我们的框架是实验性的，即我们训练一个网络的多个版本并对特定超参数进行干预，并测量在施加特定分布外图像扰动时该选择对性能偏差所产生的因果效应。在我们的实验中，我们专注于测量卷积核尺寸与针对不同子群体（种族/性别）的人脸分析分类偏差之间，关于高频图像细节的因果关系。我们表明，即使在CNN的某一层中修改核尺寸，也会显著改变不同数据子群体中学习到的特征的频率内容，从而导致即使在平衡数据集存在的情况下也会出现有偏差的泛化性能。
引用
@article{arxiv.2302.03750,
title = {Linking convolutional kernel size to generalization bias in face analysis CNNs},
author = {Hao Liang and Josue Ortega Caro and Vikram Maheshri and Ankit B. Patel and Guha Balakrishnan},
journal= {arXiv preprint arXiv:2302.03750},
year = {2023}
}
备注
WACV 2024