Fisher 自编码器
机器学习
2020-10-26 v2 机器学习
摘要
有猜想认为，Fisher 散度比传统的 Kullback-Leibler（KL）散度对模型不确定性更具鲁棒性。这促使我们设计一类称为 Fisher 自编码器（Fisher auto-encoders）的新型鲁棒生成式自编码器（AE）。我们的方法是通过最小化观测数据与潜变量之间难以处理的联合分布同假设/建模联合分布之间的 Fisher 散度来设计 Fisher AE。与基于 KL 的变分 AE（VAE）不同，Fisher AE 能够精确量化真实后验分布与基于模型的后验分布之间的距离。我们在 MNIST 和 celebA 数据集上提供了定性与定量结果，证明了 Fisher AE 相较于其他 AE（如 VAE 和 Wasserstein AE）在鲁棒性方面具有竞争性表现。
引用
@article{arxiv.2007.06120,
title = {Fisher Auto-Encoders},
author = {Khalil Elkhalil and Ali Hasan and Jie Ding and Sina Farsiu and Vahid Tarokh},
journal= {arXiv preprint arXiv:2007.06120},
year = {2020}
}