NullSpaceNet:具有可微损失函数的零空间卷积神经网络
机器学习
2020-04-28 v1 机器学习
摘要
我们提出NullSpaceNet,一种将像素级输入映射到联合零空间(而非传统特征空间)的新颖网络,其中新学到的联合零空间特征具有更清晰的解释性且更易分离。NullSpaceNet确保同一类的所有输入在该新联合零空间中坍缩为一个点,而不同类则坍缩为具有高度分离边界的不同点。此外,提出一种新颖的可微损失函数,其具有无自由参数的闭式解。在4个不同数据集上针对带全连接层的VGG16进行测试时,NullSpaceNet表现出优越性能,准确率提升高达4.55%,可学习参数从135M减至19M,推理时间减少99%(有利于NullSpaceNet)。这意味着NullSpaceNet对一批图像进行分类所需时间不到传统CNN的1%,且准确率更高。
引用
@article{arxiv.2004.12058,
title = {NullSpaceNet: Nullspace Convoluional Neural Network with Differentiable Loss Function},
author = {Mohamed H. Abdelpakey and Mohamed S. Shehata},
journal= {arXiv preprint arXiv:2004.12058},
year = {2020}
}
备注
17 pages