简单学习问题的遗传算法动力学
凝聚态物理
2009-10-28 v1 adap-org
适应与自组织系统
摘要
我们应用一种利用统计力学方法描述遗传算法(GAs)动力学的形式体系,来解决具有二元权重的感知器中的泛化问题。我们求解了每一代向每个种群成员呈现一批新训练模式的情况下的动力学,这大大简化了计算。理论结果与真实GA在多次运行中平均的模拟结果非常吻合,并能准确预测平均最佳解。对于弱选择和大的问题规模,描述动力学的差分方程可以解析表达,我们发现,由于每个训练批次有限大小引起的噪声效应可以通过适当增加种群规模来消除。如果采用这种种群规模调整,我们可以推导出每一代最计算效率最高的训练批次大小。对于独立模式,这一选择也给出了使用的训练模式的最小总数。尽管使用独立模式通常是对训练模式的非常低效的利用,但这项工作也可能有助于确定模式被循环利用时的最佳批次大小。
引用
@article{arxiv.cond-mat/9609109,
title = {The Dynamics of a Genetic Algorithm for a Simple Learning Problem},
author = {Magnus Rattray and Jonathan Shapiro},
journal= {arXiv preprint arXiv:cond-mat/9609109},
year = {2009}
}
备注
28 pages, 4 Postscript figures. Latex using IOP macros ioplppt and iopl12 which are included. To appear in Journal of Physics A. Also available at ftp://ftp.cs.man.ac.uk/pub/ai/jls/GAlearn.ps.gz and http://www.cs.man.ac.uk/~jls