时间剪枝（PIT）：一种用于时间卷积网络的轻量级网络架构优化器
机器学习
2022-03-29 v1
摘要
时间卷积网络（TCN）是用于时间序列处理任务的有前景的深度学习模型。TCN的一个关键特征是时间膨胀卷积，其优化需要大量实验。我们提出了一种自动膨胀优化器，将这一问题视为时间轴上的权重剪枝，并在单次训练中同时学习膨胀因子与权重。我们的方法在真实SoC硬件目标上分别将模型大小和推理延迟最多降低7.4倍和3倍，且相比无膨胀的网络精度无下降。它还能从单一模型出发产生丰富的帕累托最优TCN集合，在大小和精度上均优于手工设计的方案。
引用
@article{arxiv.2203.14768,
title = {Pruning In Time (PIT): A Lightweight Network Architecture Optimizer for Temporal Convolutional Networks},
author = {Matteo Risso and Alessio Burrello and Daniele Jahier Pagliari and Francesco Conti and Lorenzo Lamberti and Enrico Macii and Luca Benini and Massimo Poncino},
journal= {arXiv preprint arXiv:2203.14768},
year = {2022}
}