基于比较的搜索中显式平均与新型符号平均的理论分析
神经与进化计算
2024-01-26 v1
摘要
在黑箱优化中,目标函数中的噪声是不可避免的。噪声会扰乱基于比较的优化中候选解的排序,可能导致搜索性能相比无噪声场景有所下降。显式平均法取含噪目标函数值的样本均值,作为一种简单且通用的噪声处理技术被广泛使用。尽管它适用于多种应用,但如果均值不是有限的,它就会失效。我们从理论上揭示了,当假设噪声服从无有限均值的稳定分布时,显式平均对真实排名的估计会产生负面影响。作为替代方案,我们提出了符号平均法,这是一种简单但鲁棒的噪声处理技术。我们从理论上证明,随着样本数量的增加,符号平均法能以任意高的概率估计出一对点的含噪目标函数值的中位数顺序。其相对于显式平均的优势及其鲁棒性也通过数值实验得到了证实。
引用
@article{arxiv.2401.14014,
title = {Theoretical Analysis of Explicit Averaging and Novel Sign Averaging in Comparison-Based Search},
author = {Daiki Morinaga and Youhei Akimoto},
journal= {arXiv preprint arXiv:2401.14014},
year = {2024}
}
备注
13 pages, 1 figures