中文

论高斯过程模型的可辨识性与可解释性

机器学习 2023-10-27 v1 机器学习

摘要

在本文中,我们批判性地审视在单输出高斯过程(GP)模型中使用 Matérn 核加性混合的普遍做法,并探索多输出 GP 模型中 Matérn 核乘性混合的性质。对于单输出情形,我们导出一系列理论结果,表明 Matérn 核混合的平滑性由最不平滑的分量决定,且具此类核的 GP 实质上等价于最不平滑的核分量。此外,我们证明各核分量内的混合权重或参数均不可辨识。随后我们将注意力转向多输出 GP 模型,并分析乘性核 K(x,y)=AK0(x,y)K(x,y) = AK_0(x,y) 中协方差矩阵 AA 的可辨识性,其中 K0K_0 为标准单输出核如 Matérn。我们表明 AA 可辨识至一个乘法常数,意味着乘性混合非常适合多输出任务。我们的发现得到单输出与多输出设定下广泛模拟与真实应用的支持。本工作为 GP 模型的核选择与解释提供洞见,强调为不同任务选取适当核结构的重要性。

关键词

引用

@article{arxiv.2310.17023,
  title  = {On the Identifiability and Interpretability of Gaussian Process Models},
  author = {Jiawen Chen and Wancen Mu and Yun Li and Didong Li},
  journal= {arXiv preprint arXiv:2310.17023},
  year   = {2023}
}

备注

37th Conference on Neural Information Processing Systems (NeurIPS 2023)