稀疏进化训练的总体性能的拓扑改进：稀疏MLP的基于模体的结构优化
神经与进化计算
2025-06-12 v1 人工智能
摘要
深度神经网络(DNN)已被证明极其有效，并已应用于深度学习领域的多样化领域。然而，随着DNN模型复杂性的增加，对降低计算成本和内存开销的需求变得越来越紧迫。稀疏性已成为这一领域的领先方法。稀疏多层感知器(MLP)在监督特征选择中的鲁棒性，以及稀疏进化训练(SET)的应用，展示了在不牺牲精度的前提下降低计算成本的可行性。此外，人们认为SET算法可以通过一种称为模体优化的结构优化方法进一步改进，潜在效率提升超过40%，性能下降低于4%。本研究探讨了将稀疏进化训练应用于多层感知器(SET-MLP)的结构优化能否提升性能，以及这种改进能在多大程度上实现。
引用
@article{arxiv.2506.09204,
title = {A Topological Improvement of the Overall Performance of Sparse Evolutionary Training: Motif-Based Structural Optimization of Sparse MLPs Project},
author = {Xiaotian Chen and Hongyun Liu and Seyed Sahand Mohammadi Ziabari},
journal= {arXiv preprint arXiv:2506.09204},
year = {2025}
}