利用生成模型刻画图像分类器的失效条件
计算机视觉与模式识别
2024-11-06 v2
摘要
本文聚焦于识别给定图像分类器的失效条件。我们利用StyleGAN2等近期生成对抗网络（GAN）所提供的高质量可控图像数据分布能力，将失效条件表述为潜在空间中导致显著性能下降的方向。通过该分析策略，我们发现结合多种干扰源的边界情况，并深入比较不同分类器的行为。这些退化方向还能通过生成数据进行可视化，以提升可解释性。某些退化（如图像质量）影响所有类别，而另一些（如形状）则具有类别特异性。本文以MNIST数据集为例，该数据集补充了噪声和模糊两种干扰源，结果表明该方法为更好地理解和控制在安全关键应用中利用人工智能组件的风险提供了前景之路。
引用
@article{arxiv.2410.12814,
title = {Leveraging generative models to characterize the failure conditions of image classifiers},
author = {Adrien LeCoz and Stéphane Herbin and Faouzi Adjed},
journal= {arXiv preprint arXiv:2410.12814},
year = {2024}
}