基于神经网络修补的高效对抗样本生成
机器学习
2024-01-03 v2 密码学与安全
摘要
对抗样本的生成已成为确立深度神经网络鲁棒性与可信性的关键问题，尤其是在自动驾驶与精准医疗等安全攸关的应用领域中。然而，该问题带来了多重实际挑战，包括因网络规模庞大而引起的可扩展性问题，以及所生成对抗样本缺乏自然性与输出无偏性等重要品质。此问题与神经网络修补任务具有相同的终极目标：需发现网络部分权重的微小改动，使得施加这些改动后，修改后的网络对给定输入集产生期望输出。我们利用这一联系，提出从修补补丁获取对抗样本，其底层观察是：改变权重所产生的效应亦可通过改变输入来达成。因此，本文提出一种新颖方法，利用高效的网络修补技术来生成对给定网络具有对抗性的输入扰动。我们注意到，所提方法显著优于先前的 SOTA 技术。
引用
@article{arxiv.2211.16808,
title = {Efficient Adversarial Input Generation via Neural Net Patching},
author = {Tooba Khan and Kumar Madhukar and Subodh Vishnu Sharma},
journal= {arXiv preprint arXiv:2211.16808},
year = {2024}
}