非线性感知器中的牺牲式学习
无序系统与神经网络
2007-05-23 v1
摘要
使用腔法方法，我们考察由非线性学生感知器学习带噪声的教师生成样本的问题。对于样本不足且权重衰减较弱的情况，训练样本的激活分布在较难的样本上表现出间隙。这说明难样本被牺牲以换取整体性能。仿真结果表明，光滑能量景观的模型无法很好地描述这种有间隙的分布，暗示粗糙的能量景观可能复杂化学习过程。
引用
@article{arxiv.cond-mat/0006206,
title = {Sacrificial Learning in Nonlinear Perceptrons},
author = {Peixun Luo and K. Y. Michael Wong},
journal= {arXiv preprint arXiv:cond-mat/0006206},
year = {2007}
}
备注
7 pages, 4 figures