拉普拉斯去噪自编码器
计算机视觉与模式识别
2020-03-31 v1 机器学习
摘要
尽管深度神经网络在许多机器学习任务中表现极为出色，但为有监督训练标注大量真实数据通常代价高昂且难以扩展。因此，利用无标签数据学习鲁棒表征对于减轻人力投入以及众多下游任务至关重要。近期，针对视觉数据的无监督与自监督学习进展极大受益于领域知识。在此，我们关注一种更通用的无监督学习框架，其可轻松推广至其他领域。本文中，我们提出利用一种新型去噪自编码器学习数据表征，其中噪声输入数据通过对潜在干净数据在梯度域中施加扰动而生成。这可借助输入数据的拉普拉斯金字塔表征自然推广至多个尺度。由此，智能体学习到更具鲁棒性、并利用跨多尺度底层数据结构的表征。在多个视觉基准上的实验表明，与单尺度扰动及其对应方法和其他方法相比，所提方法能学到更好的表征。此外，我们还展示了所学表征在迁移至其他下游视觉任务时表现良好。
引用
@article{arxiv.2003.13623,
title = {Laplacian Denoising Autoencoder},
author = {Jianbo Jiao and Linchao Bao and Yunchao Wei and Shengfeng He and Honghui Shi and Rynson Lau and Thomas S. Huang},
journal= {arXiv preprint arXiv:2003.13623},
year = {2020}
}