SC-VAE：基于稀疏编码且具备可学习ISTA的变分自编码器

从无标注数据中学习丰富的数据表示是将深度学习算法应用于下游任务的关键挑战。已有若干变分自编码器（VAE）的变体被提出，以通过将高维数据编码至低维空间来学习紧凑的数据表示。根据在表示学习步骤中所强加的元先验特征，VAE方法可分为两大类。第一类方法通过在潜空间假设静态先验分布来推导连续编码。第二类方法则使用向量量化（VQ）及码本学习离散潜表示。然而，这两类方法均存在某些问题，可能导致次优的图像重建结果。第一类方法遭受后验坍缩，而第二类方法遭受码本坍缩。为应对这些挑战，我们提出一种新的VAE变体，称为基于稀疏编码且具备可学习迭代收缩阈值算法（ISTA）的VAE（SC-VAE），其在变分自编码器框架中整合了稀疏编码。所提方法学习由少量预定正交原子的线性组合构成的稀疏数据表示。稀疏编码问题使用可学习版本的迭代收缩阈值算法（ISTA）求解。在两个图像数据集上的实验表明，与最先进的方法相比，我们的模型取得了改进的图像重建结果。此外，我们证明了使用学习到的稀疏码向量可让我们通过图像块聚类执行图像生成和无监督图像分割等下游任务。