异构输入域上的多任务高斯过程学习
机器学习
2024-10-28 v3 机器学习
摘要
多任务高斯过程(MTGP)是一种知名的非参数贝叶斯模型,通过跨任务迁移知识来有效学习相关任务。但当前的 MTGP 通常局限于相同输入域中定义的多任务场景,无法处理异构情况,即各任务的输入域特征随任务变化。为此,本文提出一种新颖的异构随机变分线性协区域化(HSVLMC)模型,用于同时学习具有不同输入域的任务。具体而言,我们发展了带贝叶斯标定的随机变分框架,其(i)考虑由域映射引起的降维效应以实现有效的输入对齐;(ii)采用残差建模策略,利用先验域映射带来的归纳偏置以改进模型推断。最后,在多种异构多任务案例及一个实际的多保真蒸汽涡轮排气问题上,所提模型相对现有 LMC 模型的优越性得到了充分验证。
引用
@article{arxiv.2202.12636,
title = {Learning Multi-Task Gaussian Process Over Heterogeneous Input Domains},
author = {Haitao Liu and Kai Wu and Yew-Soon Ong and Chao Bian and Xiaomo Jiang and Xiaofang Wang},
journal= {arXiv preprint arXiv:2202.12636},
year = {2024}
}
备注
This work has been submitted to the IEEE for possible publication