从理解遗传漂变到分布估计算法的智能重启机制

分布估计算法（EDA）是一类优化算法，它们学习搜索空间上的一个分布，从中可以轻松采样出好的解。大多数 EDA 的一个关键参数是样本大小（种群大小）。如果种群大小太小，概率模型的更新建立在少量样本之上，导致遗传漂变这一不良效应。过大的种群大小虽能避免遗传漂变，但会减慢过程。基于近期关于种群大小如何导致遗传漂变的定量分析，我们为 EDA 设计了一种智能重启机制。通过在遗传漂变风险高时停止运行，该机制能自动使 EDA 在良好的参数区间内运行。通过数学运行时间分析，我们证明了该智能重启方案的通用性能保证。这尤其表明，在许多已知最优（问题特定）参数值的情形下，该重启方案能自动找到这些值，从而实现渐近最优性能。我们还进行了广泛的实验分析。在四个经典基准问题上，我们清晰地观察到种群大小对性能的关键影响，并发现智能重启方案带来的性能接近于使用最优参数值可获得的性能。我们的结果还表明，先前基于理论建议的最优种群大小可能与实际最优值相去甚远，导致性能明显劣于通过智能重启方案获得的性能。我们还在文献中的两个组合优化问题——最大割问题和二分问题上，使用 PBIL（交叉熵算法）进行了实验。我们再次观察到，智能重启机制找到了比文献中建议值好得多的种群大小，从而带来了显著更优的性能。