HyperArm Bandit 优化：一种超参数优化的新方法及其在随机与对抗设置下 Bandit 算法的分析
机器学习
2025-03-14 v1
摘要
本文探讨了 Bandit 算法在随机与对抗设置中的应用，重点关注理论分析与实际应用。研究首先介绍 Bandit 问题，区分随机与对抗变体，并考察关键算法，包括先探索后提交（Explore-Then-Commit, ETC）、置信上界（Upper Confidence Bound, UCB）以及探索与利用指数权重算法（Exponential-Weight Algorithm for Exploration and Exploitation, EXP3）。通过理论遗憾界（regret bounds）分析来比较这些算法的性能。随后，本文提出了一种新框架——HyperArm Bandit 优化（HyperArm Bandit Optimization, HABO），将 EXP3 应用于机器学习模型的超参数调优。与将整个配置视为一个臂的传统方法不同，HABO 将单个超参数视为超臂（super-arms），将其潜在配置视为子臂（sub-arms），从而实现动态资源分配与高效探索。实验结果表明，HABO 在分类与回归任务中有效，在计算效率和准确性方面优于贝叶斯优化（Bayesian Optimization）。本文最后讨论了 HABO 的收敛性保证及其在可扩展且鲁棒的超参数优化方面的潜力。
引用
@article{arxiv.2503.10282,
title = {HyperArm Bandit Optimization: A Novel approach to Hyperparameter Optimization and an Analysis of Bandit Algorithms in Stochastic and Adversarial Settings},
author = {Samih Karroum and Saad Mazhar},
journal= {arXiv preprint arXiv:2503.10282},
year = {2025}
}
备注
41 pages, 9 figures