基于剪除弱连接的无监督神经网络压缩
计算机视觉与模式识别
2021-05-11 v3 神经与进化计算
摘要
受限玻尔兹曼机（RBMs）和深度信念网络（DBNs）等无监督神经网络在自动特征提取、无监督权重初始化和密度估计方面具有强大能力。在本文中，我们证明这些神经网络的参数可在不影响其性能的情况下被大幅削减。我们描述了一种减少 RBM 所需参数的方法，RBM 是深度架构的基本构建块。进一步，我们提出了一种无监督稀疏深度架构选择算法以形成稀疏深度神经网络。实验结果表明，在生成或判别性能上几乎没有任何损失。
引用
@article{arxiv.1901.07066,
title = {On Compression of Unsupervised Neural Nets by Pruning Weak Connections},
author = {Zhiwen Zuo and Lei Zhao and Liwen Zuo and Feng Jiang and Wei Xing and Dongming Lu},
journal= {arXiv preprint arXiv:1901.07066},
year = {2021}
}
备注
This paper needs to be further revised