基于汉明相似度与图拉普拉斯矩阵的类划分及对抗图像检测
计算机视觉与模式识别
2023-05-09 v2 最优化与控制
摘要
研究者通常通过检查网络一层或多层的激活输出来研究神经网络表示。此处，我们探究以比特向量编码的 ReLU 激活模式在理解和解释神经网络行为方面的潜力。我们利用表征不相似矩阵（RDM）来考察深度神经网络嵌入空间内数据的连贯性。从网络的每一层，我们提取并利用比特向量构建图像间的相似度分数。由这些相似度分数，我们为取自 2 个类的图像集合构建相似度矩阵。随后我们对相应的拉普拉斯矩阵应用 Fiedler 划分以分离各类。我们的结果表明，通过比特向量表示，网络持续精炼类的可检测性，最后一层 ReLU 达到了优于 95% 的分离准确率。此外，我们证明比特向量有助于对抗图像检测，同样利用简单分类器在分离对抗与非对抗图像上达到了超过 95% 的准确率。
引用
@article{arxiv.2305.01808,
title = {Hamming Similarity and Graph Laplacians for Class Partitioning and Adversarial Image Detection},
author = {Huma Jamil and Yajing Liu and Turgay Caglar and Christina M. Cole and Nathaniel Blanchard and Christopher Peterson and Michael Kirby},
journal= {arXiv preprint arXiv:2305.01808},
year = {2023}
}
备注
accepted by the Workshop TAG in Pattern Recognition with Applications at the Computer Vision and Pattern Recognition (CVPR) 2023