构造性学习算法的存储容量
材料科学
2009-10-31 v1
摘要
我们确定了在大规模训练集极限下，构造性算法——Parity Machine 的 Tilinglike Learning Algorithm [M. Biehl 和 M. Opper, Phys. Rev. A {\bf 44} 6888 (1991)] 的典型存储容量的上、下界。我们解析地确定了阈值感知器的属性，这是容量计算中的中间步骤，需学习目标分布偏置的训练集模式。下界通过 cavity 方法得到，与隐藏单元数成正比。上界通过 replica 对称假设获得，接近 Mitchinson 和 Durbin [Biol. Cyber. {\bf 60} 345 (1989)] 预测的容量。
引用
@article{arxiv.cond-mat/9909247,
title = {Evolution of a sandpile in a thick flow regime},
author = {S. N. Dorogovtsev and J. F. F. Mendes},
journal= {arXiv preprint arXiv:cond-mat/9909247},
year = {2009}
}
备注
14 pages, 7 figures