MAGDiff：基于深度神经网络激活图的协变量数据集偏移检测
机器学习
2024-05-14 v2 机器学习
摘要
尽管神经网络已成功应用于多种任务，但其仍像其他机器学习方法一样，受限于对数据偏移的敏感性：训练所用数据与部署所用数据间的分布差异会严重影响其性能。本文中，我们提出一类称为 MAGDiff 的新表征，从任意给定神经网络分类器中提取，可在无需训练专用于该任务的新模型的情况下实现高效的协变量数据偏移检测。这些表征通过比较神经网络对属于训练分布与目标分布的样本的激活图来计算，并为常用于数据集偏移检测的双样本检验提供强大的数据自适应与任务自适应统计量。我们通过测量多个不同数据集与偏移类型上双样本 Kolmogorov-Smirnov（KS）检验的统计功效进行实证，表明我们的新表征相较依赖网络输出的先进基线带来显著提升。
引用
@article{arxiv.2305.13271,
title = {MAGDiff: Covariate Data Set Shift Detection via Activation Graphs of Deep Neural Networks},
author = {Charles Arnal and Felix Hensel and Mathieu Carrière and Théo Lacombe and Hiroaki Kurihara and Yuichi Ike and Frédéric Chazal},
journal= {arXiv preprint arXiv:2305.13271},
year = {2024}
}