具有弱信息超先验和扩展预测信息准则的相关向量机

在变分相关向量机中，伽马分布作为自动相关性判定先验的噪声精度上的超先验具有代表性。我们提出使用形状参数接近于零且尺度参数不必接近于零的逆伽马超先验来替代伽马超先验。该超先验与弱信息先验的概念相关。通过针对非齐次数据的回归研究了该超先验的效果。由于难以用单一核函数捕捉此类数据的结构，我们采用多核方法，为输入数据布置具有不同宽度的多个核函数。我们确认通过调整尺度参数并保持形状参数接近于零，可控制模型的自由度。选择尺度参数的一个候选是预测信息准则。然而，使用该准则估计的模型似乎会导致过拟合。这是因为多核方法使模型处于模型维度大于数据量的情况。为了在此类情形下也能选择合适的尺度参数，我们还提出了扩展预测信息准则。已确认通过选择使扩展预测信息准则最小的尺度参数，可获得具有良好预测精度的多核相关向量回归模型。