优化算法最优收敛的参数:On-The-Fly 方法
最优化与控制
2020-09-25 v1 机器学习
神经与进化计算
摘要
真正引起我兴趣的是,某些参数在执行和优化算法收敛方面表现更好,尽管目标公式并无显著差异。因此研究问题为:“在使用 on-the-fly 方法时,哪些参数能为目标公式提供最优的收敛解?”本研究以实验概念进行,测试了五种不同算法与不同目标函数,以发现哪个参数能带来最佳收敛。为找到正确参数,采用了一种称为“on-the-fly”的方法。我使用五种不同的优化算法运行了实验。其中一次测试运行表明,每个参数对目标函数具有递增或递减的收敛精度,具体取决于所选择的特定优化算法。每个参数对目标函数都具有递增或递减的收敛精度。其中一项将进化算法仅与重组技术结合应用的结果,在寻找最优优化方面表现良好。同样,一些结果通过在一次测试性能中组合变异或多个参数,实现了递增的精度可视化。总之,每种算法都有一组自身收敛特性不同的参数。这也取决于所使用的目标公式。这证实了 fly 方法是一种寻找最佳参数的合适途径。这意味着只要在过程中学习代价率随时间下降,操纵并观察效应以找到正确参数是有效的。
引用
@article{arxiv.2009.11390,
title = {Parameters for the best convergence of an optimization algorithm On-The-Fly},
author = {Valdimir Pieter},
journal= {arXiv preprint arXiv:2009.11390},
year = {2020}
}
备注
28 pages