结合张量幂方法的 CP 分解用于卷积神经网络压缩
机器学习
2017-01-26 v1
摘要
卷积神经网络 (CNNs) 在许多领域包括复杂图像分类任务中取得了巨大成功。然而,它们需要大量内存和计算成本,阻碍了其在智能手机等相对低端的智能设备上运行。我们提出了一种基于 CP 分解和张量幂方法 (Tensor Power Method) 的 CNN 压缩方法。我们还提出了一种迭代微调,在分解每一层之后、分解下一层之前对整体网络进行微调。与先前 state-of-the-art 的工作相比,在精度损失不增加的情况下实现了内存和计算成本的显著降低。
引用
@article{arxiv.1701.07148,
title = {CP-decomposition with Tensor Power Method for Convolutional Neural Networks Compression},
author = {Marcella Astrid and Seung-Ik Lee},
journal= {arXiv preprint arXiv:1701.07148},
year = {2017}
}
备注
Accepted as a conference paper at BigComp 2017