探究深度神经网络输入与输出层在对抗防御中的作用

深度神经网络是在预测、计算机视觉、语言处理等许多领域取得了最先进性能的学习模型。然而，研究表明存在某些输入，它们通常不会欺骗人类，但可能会完全误导模型。这些输入被称为对抗性输入。当此类模型用于实际应用时，这些输入构成了极高的安全威胁。在这项工作中，我们分析了三类不同的全连接稠密网络对极少测试的非基于梯度的对抗性攻击的抵抗力。这些类别是通过操纵输入和输出层来创建的。我们经验性地证明，由于网络的某些特性，它们对这些攻击提供了高鲁棒性，并且可用于微调其他模型以增强对对抗性攻击的防御。