探索鲁棒模型与生成模型之间的联系
机器学习
2023-06-06 v4 密码学与安全
计算机视觉与模式识别
摘要
我们提供一项研究，将通过对抗训练（AT）训练的鲁棒判别分类器与以能量基模型（EBM）形式的生成建模相联系。我们通过分解判别分类器的损失并表明该判别模型亦感知输入数据密度来实现这一点。尽管通常假设对抗点脱离输入数据的流形，我们的研究惊奇地发现，输入空间中无目标对抗点在判别分类器内部隐藏的生成模型下极有可能——在 EBM 中具有低能量。我们给出两点证据：无目标攻击甚至比自然数据更有可能，且其似然随攻击强度增加而上升。这使我们能轻易检测它们，并设计一种称为高能量 PGD 的新攻击，其欺骗分类器却具有与数据集相似的能量。代码见 github.com/senad96/Robust-Generative。
引用
@article{arxiv.2304.04033,
title = {Exploring the Connection between Robust and Generative Models},
author = {Senad Beadini and Iacopo Masi},
journal= {arXiv preprint arXiv:2304.04033},
year = {2023}
}
备注
Italian Conference on AI - AI per Cybersecurity, 6 pages, 6 figures