可证明鲁棒的深度生成模型
机器学习
2020-04-23 v1 机器学习
摘要
对抗攻击的近期工作已经开发了可证明鲁棒的方法来训练深度神经网络分类器。然而，尽管深度生成模型常在鲁棒性背景下被提及，但其本身在形式化分析鲁棒性性质方面受到的关注相对较少。在本文中，我们提出了一种训练可证明鲁棒生成模型的方法，具体而言是可证明鲁棒的变分自编码器（VAE）版本。为此，我们首先形式化定义了一个似然变分下界上的（可认证的）鲁棒下界，然后展示了如何在训练期间优化该下界以产生鲁棒的 VAE。我们在简单示例上评估了该方法，并表明它能够产生对对抗攻击（即试图扰动输入以大幅降低其在模型下似然的 adversary）明显更具鲁棒性的生成模型。
引用
@article{arxiv.2004.10608,
title = {Provably robust deep generative models},
author = {Filipe Condessa and Zico Kolter},
journal= {arXiv preprint arXiv:2004.10608},
year = {2020}
}