通过鲁棒特征提取理解深度网络的失效模式
计算机视觉与模式识别
2021-06-15 v3
摘要
传统上针对学习模型、在测试集上报告聚合分数的评估指标，不足以揭示在特征和样本上重要且具信息量的失效模式。我们引入并研究了一种方法，旨在通过识别其存在或缺失会导致性能不佳的视觉属性来刻画和解释失效。与以往依赖众包标注视觉属性的工作不同，我们利用一个独立的鲁棒模型的表示来提取可解释特征，并借助这些特征来识别失效模式。我们进一步提出了一种可视化方法，旨在使人类能够理解此类特征所编码的含义，并测试了这些特征的可理解性。在 ImageNet 数据集上的评估表明：(i) 所提工作流能有效发现重要的失效模式，(ii) 可视化技术有助于人类理解所提取的特征，(iii) 提取的洞见可协助工程师进行错误分析与调试。
引用
@article{arxiv.2012.01750,
title = {Understanding Failures of Deep Networks via Robust Feature Extraction},
author = {Sahil Singla and Besmira Nushi and Shital Shah and Ece Kamar and Eric Horvitz},
journal= {arXiv preprint arXiv:2012.01750},
year = {2021}
}
备注
Accepted at CVPR, 2021