具有Spike-and-Slab先验的非平稳稀疏相关多输出高斯过程
机器学习
2024-09-06 v1 机器学习
多智能体系统
系统与控制
系统与控制
摘要
多输出高斯过程（MGP）通常被用作一种迁移学习方法，以利用多个输出之间的信息。MGP的一个关键优势是为预测提供不确定性量化，这对于后续的决策任务非常重要。然而，传统的MGP可能不够灵活，无法处理具有动态特征的多变量数据，特别是在处理复杂的时间相关性时。此外，由于某些输出可能缺乏相关性，在它们之间传递信息可能会导致负迁移。为了解决这些问题，本研究提出了一种非平稳MGP模型，该模型能够捕获输出之间的动态和稀疏相关性。具体而言，MGP的协方差函数是使用时变核函数的卷积构造的。然后在相关参数上放置动态spike-and-slab先验，以自动决定在训练过程中哪些信息源对目标输出具有信息量。提出了一种期望最大化（EM）算法用于高效的模型拟合。数值研究和实际案例均证明了其在捕获动态和稀疏相关结构以及减轻高维时间序列数据负迁移方面的有效性。最后，一个山地车强化学习案例突出了其在决策问题中的潜在应用。
引用
@article{arxiv.2409.03149,
title = {Non-stationary and Sparsely-correlated Multi-output Gaussian Process with Spike-and-Slab Prior},
author = {Wang Xinming and Li Yongxiang and Yue Xiaowei and Wu Jianguo},
journal= {arXiv preprint arXiv:2409.03149},
year = {2024}
}