以插值函数作为输出激活的深度神经网络
机器学习
2018-06-19 v3 计算机视觉与模式识别
机器学习
摘要
我们将深度神经网络(通常的 softmax 函数)的输出层替换为一种新颖的插值函数。并针对这一新架构提出了端到端的训练和测试算法。与以 softmax 函数作为输出激活的经典神经网络相比,以插值函数作为输出激活的替代模型结合了深度学习和流形学习的优势。新框架展示了以下主要优点:首先,它更适用于训练数据不足的情况。其次,它在多种网络上显著提高了泛化精度。该算法在 PyTorch 中实现,代码将公开可用。
引用
@article{arxiv.1802.00168,
title = {Deep Neural Nets with Interpolating Function as Output Activation},
author = {Bao Wang and Xiyang Luo and Zhen Li and Wei Zhu and Zuoqiang Shi and Stanley J. Osher},
journal= {arXiv preprint arXiv:1802.00168},
year = {2018}
}
备注
11 pages, 4 figures