扰乱 3D 虚拟环境:可迁移对抗性 3D 物体

在过去几年中,科学界对 3D 虚拟环境表现出显著且日益增长的兴趣,在逼真虚拟世界中训练并测试基于机器学习的模型。一方面,这些环境也可成为研究机器学习算法弱点、或模拟训练设置以使机器学习模型获得对 3D 对抗攻击鲁棒性的手段。另一方面,其日益增长的流行也可能吸引那些旨在制造对抗条件以破坏基准测试过程的人,尤其在允许广大社群贡献的公开环境情况下。现有大多数对抗机器学习方法聚焦于静态图像,关于如何处理 3D 环境以及应如何改动 3D 物体以欺骗观察它的分类器的研究甚少。本文中,我们研究如何通过改变纹理来构造对抗性 3D 物体,所用工具链由易获取组件构成。我们表明,使用可计算关于渲染过程参数梯度的现成有限代理渲染器,确实可以且简单地创建对抗物体,并在一定程度上将攻击迁移至更先进的 3D 引擎。我们提出了一种基于显著性的攻击,其交汇两类渲染器以将改动聚焦于那些估计在目标引擎中有效的纹理元素,并在流行神经分类器中评估其影响。