SAfER：用于高效鲁棒神经网络推理的层级敏感度评估
计算机视觉与模式识别
2023-12-11 v2
摘要
深度神经网络（DNNs）在大多数计算机视觉任务中表现出色。一些关键应用，如自动驾驶或医学影像，还需要研究其行为及其决策背后的原因。就此而言，DNN 归因旨在研究 DNN 预测与其输入之间的关系。归因方法已被改进以突出 DNN 中最相关的权重或神经元，从而更有效地选择可剪枝的权重或神经元。然而，这些方法的一个局限是权重通常在各层内分别比较，而某些层可能显得比其他层更关键。在本工作中，我们提出研究 DNN 层重要性，即估计准确率相对于在层级别施加扰动的敏感度。为此，我们提出了一个新颖的数据集来评估我们的方法以及未来的工作。我们对若干准则进行了基准测试，并就如何评估 DNN 层重要性以及由此如何为各层分配预算以提升 DNN 效率（应用于 DNN 剪枝与量化）以及对硬件故障（例如位翻转）的鲁棒性得出结论。
引用
@article{arxiv.2308.04753,
title = {SAfER: Layer-Level Sensitivity Assessment for Efficient and Robust Neural Network Inference},
author = {Edouard Yvinec and Arnaud Dapogny and Kevin Bailly and Xavier Fischer},
journal= {arXiv preprint arXiv:2308.04753},
year = {2023}
}