模型医生：一种用于诊断与治疗CNN分类器的简单梯度聚合策略
计算机视觉与模式识别
2021-12-10 v1 机器学习
摘要
近年来，卷积神经网络（CNN）在分类任务中取得了优异性能。众所周知，CNN被视为“黑盒”，难以理解其预测机制并调试错误预测。一些模型调试与解释工作被提出以解决上述缺陷。然而，这些方法侧重于解释和诊断模型预测的可能原因，研究人员据此手动处理后续的模型优化。本文提出首个完全自动化的模型诊断与治疗工具，称为模型医生（Model Doctor）。基于两个发现：1）每个类别仅与稀疏且特定的卷积核相关；2）对抗样本在特征空间中孤立而正常样本连续，设计了一种简单的聚合梯度约束，用于有效诊断和优化CNN分类器。聚合梯度策略是主流CNN分类器的通用模块。大量实验表明，所提模型医生适用于所有现有CNN分类器，并将16种主流CNN分类器的准确率提升了1%–5%。
引用
@article{arxiv.2112.04934,
title = {Model Doctor: A Simple Gradient Aggregation Strategy for Diagnosing and Treating CNN Classifiers},
author = {Zunlei Feng and Jiacong Hu and Sai Wu and Xiaotian Yu and Jie Song and Mingli Song},
journal= {arXiv preprint arXiv:2112.04934},
year = {2021}
}
备注
Accepted by AAAI 2022