针对神经辐射场（NeRF）的幻觉中毒攻击：IPA-NeRF
计算机视觉与模式识别
2024-07-19 v2 密码学与安全
摘要
神经辐射场（NeRF）是计算机视觉领域的重大进步，提供了基于隐式神经网络的场景表示和新视角合成能力。其应用涵盖机器人、城市制图、自动导航、虚拟/增强现实等领域，其中一些被视为高风险的 AI 应用。尽管其广泛采用，但 NeRF 的鲁棒性和安全性仍基本未被探索。本研究为此领域做出贡献，通过引入针对神经辐射场的幻觉中毒攻击（IPA-NeRF）。该攻击涉及在 NeRF 中嵌入一个隐藏的后门视图，从而在呈现特定后门视图时产生预定义输出，即幻觉信息，而在标准输入下保持正常性能。该攻击特别设计用于欺骗用户或下游模型于特定位置，同时确保 NeRF 的任何异常在其他视角中均不可检测。实验结果表明，我们的幻觉中毒攻击成功地在指定视角上呈现了所需的幻觉信息，而不影响其他视角。值得注意的是，我们仅通过对训练集引入小扰动即可实现该攻击。代码可在 https://github.com/jiang-wenxiang/IPA-NeRF 查看。
引用
@article{arxiv.2407.11921,
title = {IPA-NeRF: Illusory Poisoning Attack Against Neural Radiance Fields},
author = {Wenxiang Jiang and Hanwei Zhang and Shuo Zhao and Zhongwen Guo and Hao Wang},
journal= {arXiv preprint arXiv:2407.11921},
year = {2024}
}