归一化约束下的自编码
机器学习
2023-06-16 v3
摘要
似然是异常值检测的标准估计量。归一化约束的特定作用在于：当使用最大似然学习样本时，确保分布外（OOD）区域具有较小的似然。由于自编码器不具备这样的归一化过程，它们往往无法识别异常值，即便这些样本明显是 OOD 的。我们提出了归一化自编码器（NAE），一种由自编码器构造的归一化概率模型。NAE 的概率密度利用自编码器的重构误差定义，这与传统的基于能量的模型中的定义不同。在我们的模型中，通过抑制负样本的重构来强制归一化，显著提升了异常值检测性能。我们的实验结果证实了 NAE 在检测异常值和生成分布内样本两方面的有效性。
引用
@article{arxiv.2105.05735,
title = {Autoencoding Under Normalization Constraints},
author = {Sangwoong Yoon and Yung-Kyun Noh and Frank Chongwoo Park},
journal= {arXiv preprint arXiv:2105.05735},
year = {2023}
}
备注
Accepted to ICML 2021. The code is released in https://github.com/swyoon/normalized-autoencoders . The interactive web demo on outlier reconstruction phenomenon and normalized autoencoders can be found in https://swyoon.github.io/outlier-reconstruction