漂移目标下的进化
机器学习
2015-03-17 v1
摘要
我们考虑进化算法对目标概念的逐渐变化（即漂移）的稳定性问题。我们定义一个算法是抗漂移的，如果对于目标函数中某个逆多项式的漂移率，它能在多项式资源内收敛到精度 1 -- \epsilon，并且此后在任何时刻，除 \epsilon 的概率外，无限期地保持在该精度内。我们证明，在 Valiant (2007; 2009) 的意义下，每一个进化算法都可以利用 Feldman (2008) 的相关查询技术转化为这样一种抗漂移算法。对于某些进化算法，例如针对布尔合取的算法，我们给出了它们能够抵抗的漂移率的界限。我们开发了一些能够抵抗显著漂移的新进化算法。特别地，我们给出了一个在球对称分布上演化线性分隔器的算法，它能抵抗 O(\epsilon /n) 的漂移率；以及另一个在更一般的乘积正态分布上的算法，它能抵抗较小的漂移率。上述转化结果也可以解释为关于可进化性概念本身在定义变化下的鲁棒性。作为该方向的第二个结果，我们证明每一个进化算法都可以转化为一个拟单调的算法，该算法可以从任何起点进化，而性能永远不会显著低于起点的性能。这使得可以从几个已知的鲁棒性转化中移除性能任意下降这一有些不自然的特性。
引用
@article{arxiv.1005.3566,
title = {Evolution with Drifting Targets},
author = {Varun Kanade and Leslie G. Valiant and Jennifer Wortman Vaughan},
journal= {arXiv preprint arXiv:1005.3566},
year = {2015}
}