基于经验对偶预测风险最小化的双模式学习网络
计算机视觉与模式识别
2018-06-12 v1
摘要
受人类可以一次从两幅给定图像中学习模式的观察启发,本文提出了一种双模式学习网络架构。与传统网络不同,所提出的架构具有两个输入分支和两个损失函数。双模式学习网络不是最小化给定数据集的经验风险,而是通过最小化经验对偶预测损失进行训练。我们表明这可以提高单图像分类的性能。该架构迫使网络通过分析和比较两幅输入图像来学习具有判别性的类特定特征。此外,双输入结构允许网络拥有大量的图像对,这有助于解决由训练数据有限导致的过拟合问题。而且,我们提出在训练期间为每个输入分支关联一个随机兴趣值以学习对应的图像。该方法可被视为一种随机正则化技术,可进一步提升泛化性能。最先进的深度网络可以适配为双模式学习网络,而无需增加相同数量的参数。在 CIFAR-10、CIFAR-100、FI-8、Google commands dataset 和 MNIST 上的大量实验表明,我们的 DPLNets 表现出比原始网络更好的性能。在 CIFAR-10、CIFAR-100 和 MNIST 子集上的实验结果表明,双模式学习网络在小数据集上具有良好的泛化性能。
关键词
引用
@article{arxiv.1806.03902,
title = {Dual Pattern Learning Networks by Empirical Dual Prediction Risk Minimization},
author = {Haimin Zhang and Min Xu},
journal= {arXiv preprint arXiv:1806.03902},
year = {2018}
}
备注
18 pages