基于张量网络的和积网络深度压缩
机器学习
2018-11-12 v1 机器学习
摘要
和积网络(SPNs)代表一类新兴的神经网络,具有清晰的概率语义,且相较于图模型具有更优的推理速度。本工作揭示了 SPNs 与张量网络之间惊人紧密的联系,从而导出了一种我们称之为张量 SPN(tSPN)的高效表示。我们首次通过将 SPN 映射至 tSPN 并采用新颖的优化技术,展示了显著的参数压缩,且精度损失可忽略不计。
引用
@article{arxiv.1811.03963,
title = {Deep Compression of Sum-Product Networks on Tensor Networks},
author = {Ching-Yun Ko and Cong Chen and Yuke Zhang and Kim Batselier and Ngai Wong},
journal= {arXiv preprint arXiv:1811.03963},
year = {2018}
}