面向黑盒优化的元学习
机器学习
2019-10-03 v2 机器学习
摘要
近来，在“学会学习”或元学习框架下训练为优化器的神经网络已被证明对包括无导数黑盒函数优化在内的广泛优化任务有效。通过梯度下降训练以优化多种合成非凸可微函数的循环神经网络（RNN）在优化无导数黑盒函数时表现有效。本工作中，我们提出 RNN-Opt：一种学习基于 RNN 的优化器的方法，用于在有限预算约束下优化实参数单目标连续函数。现有方法利用基于观测改进的元学习损失函数训练此类模型。我们提出通过使用具有已知（近似）最优值的合成非凸函数，并直接将折扣遗憾（discounted regret）用作元学习损失函数来训练 RNN-Opt。我们推测，基于遗憾的损失函数模拟了典型测试场景，因此相较于仅被训练来提出优于先前查询的查询的优化器，能带来更好的优化器。此外，RNN-Opt 在训练和推断过程中引入了简单而有效的增强，以应对以下实际挑战：i) 待优化黑盒函数可能取值的范围未知；ii) 基于实际与领域知识对输入参数的约束。我们在若干合成及标准基准黑盒函数以及一个匿名工业约束优化问题上展示了 RNN-Opt 相较现有方法的有效性。
引用
@article{arxiv.1907.06901,
title = {Meta-Learning for Black-box Optimization},
author = {Vishnu TV and Pankaj Malhotra and Jyoti Narwariya and Lovekesh Vig and Gautam Shroff},
journal= {arXiv preprint arXiv:1907.06901},
year = {2019}
}
备注
Accepted at ECML-PKDD 2019 Research Track