论神经网络中实现开放性的潜力
适应与自组织系统
2018-12-13 v1 人工智能
种群与进化
摘要
自然进化给人以一种导向开放性过程的印象，即多样性与复杂性不断增加。如果我们目标是人工产生此种开放性，这暗示了一种由进化隐喻驱动的方法。另一方面，来自机器学习与人工智能的技术常被认为过于狭窄，无法提供与进化相关的探索性动力学。在本文中，我们希望通过回顾进化启发方法中通向开放性的常见障碍，以及这些障碍在进化情形中如何被应对——多样性崩溃、复杂性饱和、以及未能形成新型个体性——来弥合这一鸿沟。我们随后展示这些问题如何映射到机器学习方法中的类似议题，并讨论在进化方法中缓解这些障碍的相同见解与方案如何移植过来。同时，这些问题在机器学习表述中所呈现的形式，暗示了分析与解决开放性障碍的新途径。最终，我们希望启发研究者能够互换使用进化与基于梯度下降的机器学习方法，以接近开放系统的设计与创造。
引用
@article{arxiv.1812.04907,
title = {On the potential for open-endedness in neural networks},
author = {Nicholas Guttenberg and Nathaniel Virgo and Alexandra Penn},
journal= {arXiv preprint arXiv:1812.04907},
year = {2018}
}
备注
17 pages, 6 figures; Final author version accepted for publication in Artificial Life