没有免费午餐定理与贝叶斯概率论:同一枚硬币的两面及其对黑盒优化和元启发式算法的启示
机器学习
2013-12-03 v3
摘要
在工业设计和实践的不同领域中,经常出现那些通过传统微积分方法难以获得可接受解的具有挑战性的优化问题。困难优化问题表现出以下行为:a) 大量独立输入变量;b) 非常复杂或不规则的多模态适应度;c) 适应度评估计算成本高。本文将聚焦于一些对实践具有强烈影响的理论问题。我将强调,对没有免费午餐 (No Free Lunch) 定理的一种解释如何自然地引出一个通用的贝叶斯优化框架。在函数空间上选择先验是每次黑盒优化中关键且不可避免的一步。
引用
@article{arxiv.1311.6041,
title = {No Free Lunch Theorem and Bayesian probability theory: two sides of the same coin. Some implications for black-box optimization and metaheuristics},
author = {Loris Serafino},
journal= {arXiv preprint arXiv:1311.6041},
year = {2013}
}
备注
Multiple changes throughout the paper