生成式自编码器在潜空间中的对抗鲁棒性研究
机器学习
2023-07-06 v1 人工智能
密码学与安全
摘要
生成式自编码器，如变分自编码器或对抗自编码器，已在包括图像生成与信号通信在内的诸多实际应用中取得巨大成功。然而，其在实际部署中的鲁棒性鲜受关注。由于概率潜结构，变分自编码器（VAE）可能面临潜变量后验分布与真实数据流形不匹配，或潜变量后验分布不连续等问题。这为恶意攻击者从潜空间攻陷 VAE 留下了后门，尤其在编码器与解码器分离使用的场景（如通信与压缩感知）中。本工作中，我们首次研究了生成式自编码器在潜空间中的对抗鲁棒性。具体而言，我们通过潜空间攻击实证展示了流行生成式自编码器的潜空间脆弱性。我们还评估了变分自编码器与其确定性变体之间的差异，观察到后者在潜空间鲁棒性上表现更优。同时，我们发现了对抗鲁棒性与潜码解耦程度之间潜在的权衡。此外，我们也验证了通过对抗训练提升 VAE 潜空间鲁棒性的可行性。总之，我们建议重视生成式自编码器的对抗潜空间鲁棒性，分析了若干鲁棒性相关问题，并对一系列关键挑战给出了见解。
引用
@article{arxiv.2307.02202,
title = {On the Adversarial Robustness of Generative Autoencoders in the Latent Space},
author = {Mingfei Lu and Badong Chen},
journal= {arXiv preprint arXiv:2307.02202},
year = {2023}
}
备注
18 pages, 12 figures