混合自注意力NEAT:一种改进NEAT算法的新型进化方法
神经与进化计算
2023-06-21 v3 人工智能
摘要
本文提出一种“混合自注意力NEAT”方法,以改进原始增强拓扑神经进化(NEAT)算法在高维输入下的表现。尽管NEAT算法在不同挑战性任务中已展现出显著效果,但当输入表示维度较高时,它无法创建调优良好的网络。我们的研究通过使用自注意力作为一种间接编码方法来选择输入中最重要的部分,从而解决该局限。此外,借助混合方法进化最终网络权重以提升其整体性能。主要结论是混合自注意力NEAT能够消除原始NEAT的限制。结果表明,与进化算法相比,我们的模型在原始像素输入的Atari游戏中以远少得多的参数量取得了可比分数。
引用
@article{arxiv.2112.03670,
title = {Hybrid Self-Attention NEAT: A novel evolutionary approach to improve the NEAT algorithm},
author = {Saman Khamesian and Hamed Malek},
journal= {arXiv preprint arXiv:2112.03670},
year = {2023}
}