AdjointBackMap：利用伴随算子从 CNN 层重建有效决策超曲面
计算机视觉与模式识别
2021-03-31 v2 人工智能
机器学习
摘要
已有若干有效方法用于解释卷积神经网络（CNNs）的内部工作机制。然而一般而言，求 CNN 整体所执行函数的逆是一个不适定问题。本文中，我们提出一种基于伴随算子的方法，用于在给定 CNN 中任意单元（首层卷积层除外）时，重建其在输入空间中的有效超曲面，该超曲面以特定输入图像为条件复现该单元的判决面。我们的结果表明，如此重建的超曲面与原始输入图像相乘，可给出该单元近乎精确的输出值。我们发现 CNN 单元的判决面在很大程度上依赖于输入，这或许解释了对抗样本为何能有效欺骗 CNN。
引用
@article{arxiv.2012.09020,
title = {AdjointBackMap: Reconstructing Effective Decision Hypersurfaces from CNN Layers Using Adjoint Operators},
author = {Qing Wan and Yoonsuck Choe},
journal= {arXiv preprint arXiv:2012.09020},
year = {2021}
}
备注
23 pages, 16 figures, 145MB. It may take some time to load