利用分位数回归解决变分自编码器中的方差收缩问题
机器学习
2020-10-20 v1 人工智能
图像与视频处理
信号处理
机器学习
摘要
深度学习模型中不确定性估计至关重要，尤其在医学影像中，若依赖推理而不考虑不确定性可能导致误诊。近来，概率变分自编码器（VAE）已成为医学图像中如病灶检测等应用里异常检测的流行模型。VAE 是一种生成图模型，用于从样本学习数据分布，并从该分布生成新样本。通过在正常样本上训练，VAE 可用于检测偏离该学习分布的输入。VAE 将输出建模为条件独立的 Gaussian，由各输出维度的均值和方差表征。因此，VAE 可使用重建概率而非重建误差进行异常检测。不幸的是，VAE 中均值和方差的联合优化导致了众所周知的收缩或方差低估问题。我们描述了一种替代方法，通过使用分位数回归避免该方差收缩问题。在 Gaussian 假设下利用估计的分位数计算均值和方差，我们将重建概率作为离群值或异常检测的原则性方法进行计算。在模拟和 Fashion MNIST 数据上的结果证明了我们方法的有效性。我们还展示了我们的方法如何用于脑图像中病灶检测的原则性异质阈值化。
引用
@article{arxiv.2010.09042,
title = {Addressing Variance Shrinkage in Variational Autoencoders using Quantile Regression},
author = {Haleh Akrami and Anand A. Joshi and Sergul Aydore and Richard M. Leahy},
journal= {arXiv preprint arXiv:2010.09042},
year = {2020}
}