论高斯过程模型的可辨识性与可解释性
机器学习
2023-10-27 v1 机器学习
摘要
在本文中,我们批判性地审视在单输出高斯过程(GP)模型中使用 Matérn 核加性混合的普遍做法,并探索多输出 GP 模型中 Matérn 核乘性混合的性质。对于单输出情形,我们导出一系列理论结果,表明 Matérn 核混合的平滑性由最不平滑的分量决定,且具此类核的 GP 实质上等价于最不平滑的核分量。此外,我们证明各核分量内的混合权重或参数均不可辨识。随后我们将注意力转向多输出 GP 模型,并分析乘性核 中协方差矩阵 的可辨识性,其中 为标准单输出核如 Matérn。我们表明 可辨识至一个乘法常数,意味着乘性混合非常适合多输出任务。我们的发现得到单输出与多输出设定下广泛模拟与真实应用的支持。本工作为 GP 模型的核选择与解释提供洞见,强调为不同任务选取适当核结构的重要性。
引用
@article{arxiv.2310.17023,
title = {On the Identifiability and Interpretability of Gaussian Process Models},
author = {Jiawen Chen and Wancen Mu and Yun Li and Didong Li},
journal= {arXiv preprint arXiv:2310.17023},
year = {2023}
}
备注
37th Conference on Neural Information Processing Systems (NeurIPS 2023)