最优计算预算分配算法的收敛速率分析
机器学习
2022-11-30 v2 机器学习
最优化与控制
摘要
序优化(OO)是一种被广泛研究的用于优化离散事件动态系统(DEDS)的技术。它通过对有限集合中的系统设计进行采样来评估其性能,旨在正确进行设计的序比较。OO中一种著名的方法是最优计算预算分配(OCBA)。它建立了分配给每个设计的样本数的最优性条件,并且满足该最优性条件的样本分配被证明能渐近地最大化正确选择最优设计的概率。本文研究了两种流行的OCBA算法。在各设计样本方差已知的情况下,我们刻画了它们针对不同性能测度的收敛速率。我们首先证明这两种OCBA算法在正确选择概率和期望机会成本测度下达到了最优收敛速率。这填补了OCBA算法收敛性分析的空白。接下来,我们将分析扩展到累积遗憾测度,这是机器学习领域研究的主要测度之一。我们表明,经过微小修改,这两种OCBA算法在累积遗憾下也能达到最优收敛速率。这表明基于OCBA最优性条件设计的算法具有更广泛应用的潜力。
引用
@article{arxiv.2211.14722,
title = {Convergence Rate Analysis for Optimal Computing Budget Allocation Algorithms},
author = {Yanwen Li and Siyang Gao},
journal= {arXiv preprint arXiv:2211.14722},
year = {2022}
}