无尺度诅咒:多起点法大规模优化的难处理性
最优化与控制
2025-04-28 v7
摘要
本文研究多起点法大规模优化的难处理性。在理论性能分析中,我们聚焦于随机多起点法(RMS)——一种具有代表性的多起点方法,包括 RMS 局部搜索和贪婪随机自适应搜索过程(GRASP)。我们的主要理论贡献是利用极值理论推导出两个量的幂律公式:(i) 最佳经验目标值(EOV)的期望改进率;(ii) 最佳 EOV 与 EOV 上确界之间的期望相对差距。值得注意的是,期望相对差距作为迭代次数的函数表现出无尺度性。因此,期望相对差距的半衰期渐近正比于 RMS 方法所执行的迭代次数。这一结果可解释为无尺度诅咒——一种类似芝诺悖论的现象——用隐喻“趋近目标反令其退避”来表达。通过数值实验,我们观察到应用于旅行商问题的若干 RMS 算法深受无尺度诅咒之困。此外,我们表明克服此诅咒需要一种强大的局部搜索算法,具备相对于 RMS 方法指数级加速解改进的有效的重启与多样化策略。
引用
@article{arxiv.2210.16678,
title = {Curse of scale-freeness: Intractability of large-scale optimization with multi-start methods},
author = {Hiroyuki Masuyama and Hiroshige Dan and Shunji Umetani},
journal= {arXiv preprint arXiv:2210.16678},
year = {2025}
}
备注
Published in Extremes on 21 April 2025. DOI: https://doi.org/10.1007/s10687-025-00511-w