通过重复分类的无导数优化
机器学习
2018-04-12 v1 机器学习
摘要
我们开发了一种最小化函数的算法,在 轮中的每一轮使用 个批量函数值测量,通过分类器识别函数的下水平集。我们证明,足够准确的分类器可实现线性收敛速率,并表明收敛速率与主动学习下水平集的难度相关。进一步,我们证明自助法(bootstrap)是所需分类方案的一种计算高效近似。最终成果是一种计算高效、无需调参的无导数算法,在批量函数查询自然的场景下,于仿真、标准基准、真实世界 DNA 结合优化与翼型设计问题上持续优于其他方法。
引用
@article{arxiv.1804.03761,
title = {Derivative free optimization via repeated classification},
author = {Tatsunori B. Hashimoto and Steve Yadlowsky and John C. Duchi},
journal= {arXiv preprint arXiv:1804.03761},
year = {2018}
}
备注
At AISTATS2018