通过噪声增强数据生成过程实现鲁棒的变分自编码器
机器学习
2024-07-29 v1
摘要
在生成模型中对抗攻击的防御机制是机器学习中的一个关键研究主题。我们的研究聚焦于一种特定类型的生成模型——变分自编码器 (VAEs)。与常见观点及现有文献认为向训练数据注入噪声可使模型更具鲁棒性不同，我们的初步实验发现，朴素地使用噪声增强技术并未显著提升 VAE 的鲁棒性，甚至会使所学习的表征质量下降，使 VAE 更易受到对抗性扰动的影响。本文引入一种新框架，通过正则化原始数据与噪声增强数据之间的潜在空间发散来增强鲁棒性。通过纳入配对概率先验于标准变分下界，我们的方法显著提升了对抗攻击的防御能力。我们的实证评估表明，该方法称为 Robust Augmented Variational Auto-ENcoder (RAVEN)，在广泛认可的基准数据集上对抗性输入的抵抗能力显著优于现有方法。
引用
@article{arxiv.2407.18632,
title = {Robust VAEs via Generating Process of Noise Augmented Data},
author = {Hiroo Irobe and Wataru Aoki and Kimihiro Yamazaki and Yuhui Zhang and Takumi Nakagawa and Hiroki Waida and Yuichiro Wada and Takafumi Kanamori},
journal= {arXiv preprint arXiv:2407.18632},
year = {2024}
}