基于稀疏加性信念模型的知识梯度策略
机器学习
2015-03-20 v1 信息论
系统与控制
math.IT
摘要
我们提出了一种用于带高维稀疏信念函数的噪声离散全局优化与排序选择（R&S）问题的序列学习策略，其中存在数百甚至数千个特征，但仅有小部分特征具有解释力。我们旨在有限预算耗尽前识别稀疏模式并选择最佳方案。我们推导了带组Lasso惩罚的稀疏线性模型知识梯度策略（KGSpLin）。该策略是贝叶斯R&S与频率学学习的独特新颖混合。特别地，我们的方法自然结合了B样条基展开，并推广到非参数加性模型（KGSpAM）与函数方差分析（ANOVA）模型。理论上，我们给出了后验均值估计与函数估计的估计误差界。对照实验表明，即使模型嵌入了数百个虚拟参数，该算法仍能高效学习正确的非零参数集。并且其优于线性模型的知识梯度。
引用
@article{arxiv.1503.05567,
title = {The Knowledge Gradient Policy Using A Sparse Additive Belief Model},
author = {Yan Li and Han Liu and Warren Powell},
journal= {arXiv preprint arXiv:1503.05567},
year = {2015}
}