人工神经网络的无误差训练
机器学习
2023-12-27 v1 神经与进化计算
动力系统
摘要
传统的人工神经网络 (ANN) 模型训练方法从未在大尺度数据上系统地实现零错误率。一种新的训练方法包含三个步骤：首先，利用常规训练得到的参数创建辅助数据，这些参数恰好对应于克隆数据损失函数的全局最小值；其次，创建辅助数据与原始数据的单参数同伦（混合）；第三，从同伦参数的辅助数据端开始，迭代训练混合数据模型直至原始数据端，同时在每次迭代中保持零误差训练率。该延拓方法由一个定理保证数值收敛，该定理将 ANN 训练问题转化为训练参数空间中参数化变换不动点的延拓问题，从而可应用动力系统中的均匀压缩映射定理。
引用
@article{arxiv.2312.16060,
title = {Error-free Training for Artificial Neural Network},
author = {Bo Deng},
journal= {arXiv preprint arXiv:2312.16060},
year = {2023}
}
备注
10 pages, 3 figures, Matlab mfiles available for online download