非参数贝叶斯混合效应模型：一种稀疏高斯过程方法
机器学习
2012-11-29 v1 机器学习
摘要
使用高斯过程 (GP) 的多任务学习模型已被开发并成功应用于各种场景。该方法的主要困难在于使用所有任务样本并集进行推断的计算成本。因此，期望得到稀疏解，即避免直接使用全部数据，而是使用一组信息丰富的“代表”。本文研究了分组混合效应 GP 模型的这一问题，其中每个个体响应由一个固定效应（取自一组未知组中的一个）加上一个捕捉个体间变化的随机个体效应函数给出。此类模型在以往工作中被广泛使用，但尚未开发出稀疏解。本文提出了此类问题的首个稀疏解，展示了如何通过最大化边缘似然的变分下界来获得稀疏近似，将单任务高斯过程的思想推广以处理混合效应模型及分组问题。使用人工数据和真实数据的实验验证了该方法，表明其能够恢复全样本推断的性能，优于基线方法，并且优于其他多任务 GP 公式的最先进 (state of the art) 稀疏解。
引用
@article{arxiv.1211.6653,
title = {Nonparametric Bayesian Mixed-effect Model: a Sparse Gaussian Process Approach},
author = {Yuyang Wang and Roni Khardon},
journal= {arXiv preprint arXiv:1211.6653},
year = {2012}
}
备注
Preliminary version appeared in ECML2012