中文

一种在快速冷却下收敛的改进型模拟退火变体

概率论 2020-07-21 v6 最优化与控制 统计理论 统计理论

摘要

给定有限状态空间 X\mathcal{X} 上待最小化的目标函数 UU、具有生成元 QQ 的提议链以及依赖于时间 tt 的冷却 schedule T(t)T(t),本文分别研究了具有生成元 M1,t(Q,U,T(t))M_{1,t}(Q,U,T(t))M2,t(Q,U,T(t))M_{2,t}(Q,U,T(t)) 的两类模拟退火(SA)算法。其中 M1,tM_{1,t} 为经典 SA 算法,我们引入一种简单且改进的变体 M2,tM_{2,t},其可证明收敛更快。当 T(t)>cM2/log(t+1)T(t) > c_{M_2}/\log(t+1) 遵循对数冷却 schedule 时,我们所提算法在总变差与相对熵下均为强遍历,并收敛至全局最小值集合,其中 cM2c_{M_2} 是我们显式确定的常数。若 cM1c_{M_1}M1,tM_{1,t} 对数冷却中出现的最优爬山常数,我们证明 cM1cM2c_{M_1} \geq c_{M_2},并给出 cM1>cM2c_{M_1} > c_{M_2} 成立的简单条件。因此,我们所提 M2,tM_{2,t} 在该情形下以更快的对数冷却收敛。我们考察的另一情形对应 cM1>cM2=0c_{M_1} > c_{M_2} = 0,其中我们给出一类对 M2,tM_{2,t}(而非 M1,tM_{1,t})有效的快速非对数冷却 schedule。除这些渐近收敛结果外,我们还对这两种退火算法的有限时间行为进行了比较与分析。最后,我们给出两种模拟 M2,tM_{2,t} 的算法。

关键词

引用

@article{arxiv.1901.10269,
  title  = {An improved variant of simulated annealing that converges under fast cooling},
  author = {Michael C. H. Choi},
  journal= {arXiv preprint arXiv:1901.10269},
  year   = {2020}
}

备注

25 pages, 1 figure. To appear Markov Process. Related Fields