面向对抗鲁棒性的度量学习
机器学习
2019-10-29 v2 密码学与安全
计算机视觉与模式识别
信息检索
机器学习
摘要
深度网络众所周知对对抗攻击十分脆弱。我们对最先进攻击方法 PGD 下的深度表示进行了实证分析，发现攻击导致内部表示向“错误”类别偏移。受此观察启发，我们提出在攻击下用度量学习正则化表示空间，以产生更鲁棒的 classifier。通过仔细为度量学习采样样本，我们学到的表示不仅提升了鲁棒性，还能检测先前未见的对抗样本。定量实验表明，相较于先前工作，根据曲线下面积（AUC）得分，鲁棒性准确率提升高达 4%，检测效率提升高达 6%。我们的代码可在 https://github.com/columbia/Metric_Learning_Adversarial_Robustness 获取。
引用
@article{arxiv.1909.00900,
title = {Metric Learning for Adversarial Robustness},
author = {Chengzhi Mao and Ziyuan Zhong and Junfeng Yang and Carl Vondrick and Baishakhi Ray},
journal= {arXiv preprint arXiv:1909.00900},
year = {2019}
}