逆向神经网络: 基于指定输出生成神经网络输入的新方法
计算机视觉与模式识别
2026-03-25 v2
摘要
神经网络系统描述复杂的映射关系，往往难以理解。本文研究确定特定神经网络类别输入图像的逆问题。最终期望这些图像包含与其对应类别分类相关的可识别特征。我们引入两种通用方法来求解逆问题。在前向传递方法中，我们基于根寻算法和对输入图像的雅可比矩阵开发了逆方法。在后向传递方法中，我们从顶部依次逆转每一层。在逆转过程中，我们添加从每个线性层的零空间中抽样的随机向量。我们在基于Transformer体系结构和基于线性层的顺序网络上演示了这些新方法。与以前的方法不同，我们表明新的方法能够产生接近完美分类得分的所有情况的随机样貌输入图像，揭示了网络潜在漏洞。因此，我们得出结论，提出的方法为解决逆映射问题提供了更全面的输入图像空间覆盖。
引用
@article{arxiv.2603.20461,
title = {Inverting Neural Networks: New Methods to Generate Neural Network Inputs from Prescribed Outputs},
author = {Rebecca Pattichis and Sebastian Janampa and Constantinos S. Pattichis and Marios S. Pattichis},
journal= {arXiv preprint arXiv:2603.20461},
year = {2026}
}
备注
Accepted at 2026 IEEE Southwest Symposium on Image Analysis and Interpretation (SSIAI)