ENTMOOT:一种集成树模型上的优化框架
机器学习
2021-05-19 v3 人工智能
机器学习
最优化与控制
摘要
梯度提升树及其他回归树模型在广泛的真实世界工业应用中表现良好。这些树模型(i)可洞察重要预测特征,(ii)有效处理稀疏数据,且(iii)具备优异的预测能力。尽管有这些优势,它们通常不受决策任务与黑盒优化青睐,原因在于其难以优化的结构以及缺乏可靠的的不确定性度量。ENTMOOT 是我们将(已训练的)树模型集成到更大优化问题中的新框架。ENTMOOT 的贡献包括:(i) 明确引入与树模型兼容的可靠不确定性度量,(ii) 求解包含这些不确定性感知树模型的更大优化问题,(iii) 证明解具有全局最优性,即不存在更优解。我们尤其展示了 ENTMOOT 方法如何简单地将树模型集成到决策与黑盒优化中,并在其中证明为常用框架的有力竞争者。
引用
@article{arxiv.2003.04774,
title = {ENTMOOT: A Framework for Optimization over Ensemble Tree Models},
author = {Alexander Thebelt and Jan Kronqvist and Miten Mistry and Robert M. Lee and Nathan Sudermann-Merx and Ruth Misener},
journal= {arXiv preprint arXiv:2003.04774},
year = {2021}
}
备注
33 pages, 10 figures, 2 tables