多样化知识蒸馏（DKD）：一种提升集成模型对抗对抗攻击鲁棒性的解决方案
图像与视频处理
2021-01-08 v3 机器学习
摘要
本文提出一种抵抗对抗攻击的集成学习模型。为构建鲁棒性，我们引入了一种训练过程，其中每个成员学习截然不同的潜空间。成员模型被逐个添加到集成中。同时，损失函数受反向知识蒸馏调节，迫使新成员学习不同的特征并映射到与现有成员安全远离的潜空间。我们使用CIFAR10和MNIST数据集在图像分类任务上评估了所提方案的安全性和性能，并显示出相较于最先进防御方法的安全性和性能提升。
引用
@article{arxiv.2006.15127,
title = {Diverse Knowledge Distillation (DKD): A Solution for Improving The Robustness of Ensemble Models Against Adversarial Attacks},
author = {Ali Mirzaeian and Jana Kosecka and Houman Homayoun and Tinoosh Mohsenin and Avesta Sasan},
journal= {arXiv preprint arXiv:2006.15127},
year = {2021}
}