神经网络的零空间性质及其在图像隐写术中的应用
计算机视觉与模式识别
2024-01-22 v1 人工智能
密码学与安全
机器学习
摘要
本文探讨了神经网络的零空间性质。我们将零空间的定义从线性映射扩展到非线性映射，并讨论了神经网络中零空间的存在。给定神经网络的零空间能够告诉我们对最终预测没有贡献的那部分输入数据，从而我们可以利用它来欺骗神经网络。这揭示了神经网络中可被利用的一个固有弱点。本文描述的一个应用引出了一种图像隐写术方法。通过在 MNIST 等图像数据集上的实验，我们表明可以利用零空间分量迫使神经网络选择特定的隐藏图像类别，即使整体图像可以被制作得看起来像一张完全不同的图像。最后，我们展示了人类观察者所看到的图像与神经网络实际用于预测的图像部分之间的比较，从而证明神经网络“看到”的与我们预期的完全不同。
引用
@article{arxiv.2401.10262,
title = {Null Space Properties of Neural Networks with Applications to Image Steganography},
author = {Xiang Li and Kevin M. Short},
journal= {arXiv preprint arXiv:2401.10262},
year = {2024}
}