利用核平方和学习PSD值函数
机器学习
2022-01-25 v2 机器学习
摘要
形状约束，如矩阵的正半定性（PSD）或函数的凸性，在机器学习与科学的许多应用中起核心作用，包括度量学习、最优传输和经济学。然而，极少有函数模型能以良好的经验性能和理论保证来强制PSD性或凸性。本文中，我们针对取值于PSD锥的函数引入一种核平方和模型，其扩展了近期提出的用于编码非负标量函数的核平方和模型。我们给出了该类PSD函数的表示定理，证明其构成PSD函数的通用逼近器，并推导了在子采样等式约束情形下的特征值界。随后，我们通过强制Hessian的核平方和表示将结果应用于建模凸函数，并证明任何光滑强凸函数均可如此表示。最后，我们在PSD矩阵值回归任务和标量值凸回归上说明了我们的方法。
引用
@article{arxiv.2111.11306,
title = {Learning PSD-valued functions using kernel sums-of-squares},
author = {Boris Muzellec and Francis Bach and Alessandro Rudi},
journal= {arXiv preprint arXiv:2111.11306},
year = {2022}
}