用于深度学习的生成式神经演化

机器学习（ML）领域的一个重要目标是创建能够学习具有人类水平能力的解决方案的方法。人类一直保持显著优势的一个领域是视觉处理。解决这一差距的一个重要途径是受自然系统启发的机器学习方法，例如人工神经网络（ANN）、演化计算（EC）以及生成与发育系统（GDS）。对深度学习的研究表明，此类架构在某些视觉任务上可以达到与人类竞争的性能；然而，这些系统主要通过监督和无监督学习算法进行训练。另一方面，研究表明演化可能在视觉系统的发育中扮演重要角色。因此，本文探讨了神经演化（NE）在深度学习中可发挥的作用。具体而言，基于超立方体的增强拓扑神经演化（HyperNEAT）是一种 NE 方法，它通过训练一个将 ANN 权重模式压缩为几何函数的间接编码，能够有效地学习大型神经结构。结果表明，HyperNEAT 自身在图像分类上存在困难，但可以有效地训练一个特征提取器，供其他 ML 方法从中学习。因此，神经演化与其他 ML 方法相结合，提供了一个可以复制自然界过程的有趣研究领域。