论对抗恶意软件鲁棒性的视觉特征

对抗学习的一个核心挑战是解释所得加固模型。在本文中，我们探究如何以视觉方式辨识鲁棒泛化，以及是否可能简洁地呈现加固决策图与输入样本之间交互的视图。我们首先提供一种方法，用于视觉比较加固模型相对于训练期间生成的对抗变体的损失行为，与相对于其他来源生成的对抗变体的损失行为。这使我们确认：在自然训练模型中所观察到的损失景观平坦度与泛化的关联，可延伸至对抗加固模型与鲁棒泛化。为补充这些解释模型参数鲁棒性的手段，我们还使用自组织映射提供一种将对抗变体与自然变体叠加于模型决策空间上的视觉方法，从而得以全面考察模型的全局鲁棒性。