基于反馈回路的对抗训练
机器学习
2023-08-25 v2 密码学与安全
摘要
深度神经网络（DNN）因能够准确学习非常复杂的输入输出关系，在众多领域得到广泛应用。尽管DNN准确且被广泛使用，但由于泛化能力有限，它们极易受到对抗攻击。为了该领域未来的进展，构建对数据点任何扰动都具有鲁棒性的DNN至关重要。过去，许多利用网络一阶导数信息增强DNN鲁棒性的技术被提出。本文提出一种基于控制理论的新型鲁棒化方法。提出了一种融合反馈控制的神经网络架构，称为反馈神经网络（Feedback Neural Networks）。控制器本身是一个神经网络，使用常规和对抗数据进行训练以稳定系统输出。这种基于反馈控制架构的新型对抗训练方法称为反馈回路对抗训练（FLAT）。在标准测试问题上的数值结果经验表明，我们的FLAT方法比最先进的方法更能有效防御对抗攻击。
引用
@article{arxiv.2308.11881,
title = {Adversarial Training Using Feedback Loops},
author = {Ali Haisam Muhammad Rafid and Adrian Sandu},
journal= {arXiv preprint arXiv:2308.11881},
year = {2023}
}