后处理修剪感知 CNN 的校准与损坏鲁棒性:图像分类基准研究
计算机视觉与模式识别
2024-06-03 v1 人工智能
摘要
卷积神经网络(CNN)在许多计算机视觉任务中取得了领先性能,但其高计算和存储需求阻碍了在资源受限环境(如嵌入式设备)中的部署。模型修剪通过减小模型大小来满足这些限制,同时保持优异性能。与此同时,安全关键型应用提出的不仅仅是资源和性能限制。特别是,预测不能过于自信,即需提供恰当的不确定性估计(proper uncertainty calibration),且 CNN 必须对损坏(如自然发生的输入扰动)具有鲁棒性(natural corruption robustness)。本工作调查了当前研究中后处理 CNN 修剪技术在图像分类任务中不确定性校准、自然损坏鲁棒性和性能之间的重要权衡。我们的研究表明,后处理修剪显著提高了模型的不确定性校准、性能和自然损坏鲁棒性,为安全可靠的嵌入式 CNN 带来了希望。此外,根据实验结果,uncertainty calibration 和 natural corruption robustness 并非互斥的目标,后处理非结构化修剪随压缩比例增加,安全方面得到改善。
引用
@article{arxiv.2405.20876,
title = {Investigating Calibration and Corruption Robustness of Post-hoc Pruned Perception CNNs: An Image Classification Benchmark Study},
author = {Pallavi Mitra and Gesina Schwalbe and Nadja Klein},
journal= {arXiv preprint arXiv:2405.20876},
year = {2024}
}
备注
11 pages, 3 figures