中文

通过选择进化学习算法的动力学转变

生物物理 2009-11-07 v1 无序系统与神经网络

摘要

我们通过选择来研究人工学习系统的进化。使用遗传编程生成一系列算法种群,这些算法可被神经网络用于对生成示例的规则进行监督学习。与专注于最终结果(这将是设计良好学习算法的自然目标)相反,我们研究进化过程,并特别关注负责学习过程改进的功能结构出现的时间顺序,这通过所得算法的泛化能力来衡量。这种出现的效果可以描述为动力学相变。表型和基因型熵的概念分别用于描述种群中适应度的分布和符号的分布,用于监测动力学。在不同的运行中,相变可能存在也可能不存在,系统可能找到好的解决方案,也可能停留在算法空间的贫瘠区域。每当发生相变时,出现的顺序是相同的。我们识别出在规则提取中可用于衡量经验或性能的变量和算子组合,从而可以实现学习计划的有效退火。

关键词

引用

@article{arxiv.physics/0209048,
  title  = {Dynamical transitions in the evolution of learning algorithms by selection},
  author = {Juan Pablo Neirotti and Nestor Caticha},
  journal= {arXiv preprint arXiv:physics/0209048},
  year   = {2009}
}

备注

11 pages, 11 figures, 2 tables