通过负相关集成防御对抗样本
密码学与安全
2022-06-22 v1 人工智能
机器学习
摘要
DNNs 中的安全问题，如对抗样本，已引起广泛关注。对抗样本指通过引入精心设计的扰动能够使 DNNs 给出完全错误预测的样例。显然，对抗样本给深度学习的发展带来巨大安全风险。近来，一些针对对抗样本的防御方法被提出，但在我们看来，这些方法的性能仍然有限。本文中，我们提出一种名为负相关集成（NCEn）的新集成防御方法，其通过使集成中各个成员的梯度方向与梯度大小呈负相关，同时降低对抗样本在它们之间的可迁移性，取得了引人注目的结果。我们进行了大量实验，结果表明 NCEn 能有效提升集成的对抗鲁棒性。
引用
@article{arxiv.2206.10334,
title = {Defending Adversarial Examples by Negative Correlation Ensemble},
author = {Wenjian Luo and Hongwei Zhang and Linghao Kong and Zhijian Chen and Ke Tang},
journal= {arXiv preprint arXiv:2206.10334},
year = {2022}
}