基于递归修正模式搜索的超矩形黑盒优化及在基于 ROC 的分类问题中的应用
最优化与控制
2023-09-14 v4 统计计算
摘要
在统计学中，经常会遇到多峰和非光滑似然（或目标函数）最大化问题，其中参数具有已知上下界。本文提出一种新颖的无导数全局优化技术，即使目标函数未显式已知或其导数难以或昂贵地获得，也可用于解决这些问题。该技术基于模式搜索算法，已被证明对黑盒优化问题有效。所提算法通过从当前解迭代生成新解来工作。新解通过沿约束样本空间的坐标轴移动而生成。在从当前解跳跃到新解之前，在当前解周围的若干邻域点处评估目标函数。然后基于这些点的目标函数值选择最佳解点。可使用并行线程使算法更具可扩展性。所提方法的性能通过优化高达 5000 维的多峰基准函数进行评估。所提算法被证明比遗传算法（GA）和模拟退火（SA）分别快达 40 和 368 倍。所提方法还用于通过最大化受试者工作特征曲线下面积（AUC）的经验估计，从阿尔茨海默病数据估计最优生物标志物组合，优于称为逐步下降算法（step-down algorithm）的上下文流行替代方法。
引用
@article{arxiv.1604.08616,
title = {Black-box optimization on hyper-rectangle using Recursive Modified Pattern Search and application to ROC-based Classification Problem},
author = {Priyam Das},
journal= {arXiv preprint arXiv:1604.08616},
year = {2023}
}