学习应追求深度还是宽度？
机器学习
2014-02-25 v1
摘要
为实现人工智能任务的可接受性能，既可以在两层监督学习模型中使用复杂特征提取方法作为第一层，也可以直接使用深度（多层）模型学习特征。虽然第一种方法具有极强的问题特异性，但第二种方法在学习多层和微调模型时存在计算开销。在本文中，我们提出了一种基于弧余弦核的称为宽学习（wide learning）的方法，该方法学习单个无限宽层。我们提出了用于宽学习的精确和非精确学习策略，并表明对于某些基准数据集，单层宽学习的表现优于单层以及有限宽度的深度架构。
引用
@article{arxiv.1402.5634,
title = {To go deep or wide in learning?},
author = {Gaurav Pandey and Ambedkar Dukkipati},
journal= {arXiv preprint arXiv:1402.5634},
year = {2014}
}
备注
9 pages, 1 figure, Accepted for publication in Seventeenth International Conference on Artificial Intelligence and Statistics