利用自适应代理优化黑盒指标
机器学习
2020-02-21 v1 人工智能
机器学习
摘要
我们解决了通过将被优化指标表示为少量易优化代理的单调函数，来以黑盒且难以优化指标训练模型的问题。我们将训练问题表述为松弛代理空间上的优化，通过估计指标的局部梯度并执行非精确凸投影来求解。我们分析了基于有限差分与局部线性插值的梯度估计，并在关于代理的光滑性假设下证明了方法的收敛性。在分类与排序问题上的实验结果验证了该方案性能与已知数学形式的方法相当，并在指标形式未知时带来显著价值。
引用
@article{arxiv.2002.08605,
title = {Optimizing Black-box Metrics with Adaptive Surrogates},
author = {Qijia Jiang and Olaoluwa Adigun and Harikrishna Narasimhan and Mahdi Milani Fard and Maya Gupta},
journal= {arXiv preprint arXiv:2002.08605},
year = {2020}
}