三维卷积核的时间因式分解
机器学习
2019-12-19 v1 机器学习
摘要
三维卷积神经网络难以训练,因为它们参数开销大且数据需求高。为解决这些问题,我们提出一种简单技术,以更少训练数据高效学习三维卷积核。我们通过沿时间维度因式分解三维核,减少参数数量并使基于数据的训练更高效。此外,我们引入了一个称为 Video-MNIST 的新数据集来展示我们方法的性能。我们的方法在低数据情形(每类 1 至 5 个视频)下显著优于常规三维卷积。最后,我们的模型在使用最多少 45% 参数的情况下,在高数据情形(每类 >10 个视频)下取得了有竞争力的结果。
引用
@article{arxiv.1912.04075,
title = {Temporal Factorization of 3D Convolutional Kernels},
author = {Gabriëlle Ras and Luca Ambrogioni and Umut Güçlü and Marcel A. J. van Gerven},
journal= {arXiv preprint arXiv:1912.04075},
year = {2019}
}
备注
8 pages, 3 figures, Proceedings of BNAIC/BENELEARN 2019 conference