自动化防御对抗攻击：漏洞发现与多源情报图像应用于保护已部署模型
密码学与安全
2021-03-31 v1 计算机视觉与模式识别
摘要
在 overhead 应用的机器学习图像识别中，图像分类是常见步骤。当应用 MobileNetV2 等流行模型架构时，已知漏洞使模型暴露于反制攻击之下，要么误标已知类别，要么改变边界框位置。本工作提出一种自动化方法来防御这些模型。我们评估了使用多光谱图像阵列和集成学习器来对抗对抗攻击。原始贡献展示了攻击、提出了补救措施，并自动化了一些关键结果以保护模型的预测免受对手侵害。粗略类比于防御网络，我们结合了来自进攻（“红队”）和防御（“蓝队”）方法的技术，从而生成混合保护结果（“绿队”）。对于机器学习，我们用车辆的3色通道加红外展示了这些方法。结果揭示了漏洞，并用 overhead 案例中常见的补充数据输入特别加以纠正。
引用
@article{arxiv.2103.15897,
title = {Automating Defense Against Adversarial Attacks: Discovery of Vulnerabilities and Application of Multi-INT Imagery to Protect Deployed Models},
author = {Josh Kalin and David Noever and Matthew Ciolino and Dominick Hambrick and Gerry Dozier},
journal= {arXiv preprint arXiv:2103.15897},
year = {2021}
}
备注
SPIE 2021, 8 Pages, 6 Figures