自编码拟合优度
机器学习
2025-03-20 v2 机器学习
摘要
我们开发了一种称为拟合优度自编码器（GoFAE）的新型生成式自编码器，其在两个层面上融入 GoF 检验。在 mini-batch 层面，它使用 GoF 检验统计量作为正则化目标。在更全局的层面，它基于高阶批评（higher criticism，即关于局部 GoF p 值均匀性的检验）选择正则化系数。我们通过给出潜分布与一分布类之间距离的松弛 -Wasserstein 界，论证了使用 GoF 检验的合理性。我们证明基于这些检验的优化可在紧致黎曼流形上通过随机梯度下降完成。在经验上，我们展示了我们的高阶批评参数选择过程分别利用互信息与 p 值均匀性来平衡重构与生成。最后，我们表明 GoFAE 在与竞争深度生成模型相当的 FID 分数与均方误差下，基于多种假设检验在潜空间中保持与高斯分布统计不可区分。
引用
@article{arxiv.2210.06546,
title = {Auto-Encoding Goodness of Fit},
author = {Aaron Palmer and Zhiyi Chi and Derek Aguiar and Jinbo Bi},
journal= {arXiv preprint arXiv:2210.06546},
year = {2025}
}
备注
The Eleventh International Conference on Learning Representations. 2023