离散感知机
概率论
2013-06-20 v1 数学物理
math.MP
机器学习
摘要
感知机作为神经网络理论中一种有前景的工具早已为人所知。针对一类特殊感知机的解析处理始于 Gardner 的开创性工作\cite{Gar88}。最初用于表征感知机的技术依赖于统计力学方法。\cite{Gar88}（及其后续工作\cite{GarDer88}）中获得的许多预测后来被严格确立为数学事实（参见，例如\cite{SchTir02,SchTir03,TalBook,StojnicGardGen13,StojnicGardSphNeg13,StojnicGardSphErr13}）。这些通常涉及球面感知机。针对各种其他类型的感知机已开展了大量工作。其中最具挑战性的之一是我们所称的离散感知机。\cite{GutSte90} 对此类感知机进行了初步的统计力学处理。依托\cite{Gar88}的结果，\cite{GutSte90} 表征了几种类型离散感知机的许多特征。在本文中，我们考虑一类类似的离散感知机子集，并提供了一组关于其性能的数学严格结果。事实证明，许多针对离散预测获得的统计力学预言实际上将表现为数学上可证明的界限。这在某种程度上模拟了我们在\cite{StojnicGardGen13,StojnicGardSphNeg13,StojnicGardSphErr13}中研究球面感知机时观察到的类似行为。
引用
@article{arxiv.1306.4375,
title = {Discrete perceptrons},
author = {Mihailo Stojnic},
journal= {arXiv preprint arXiv:1306.4375},
year = {2013}
}
备注
arXiv admin note: substantial text overlap with arXiv:1306.3809, arXiv:1306.3980, arXiv:1306.3979