你所有的损失都属于贝叶斯

损失函数是机器学习的基石，也是大多数算法的起点。数十年来，统计学与贝叶斯决策理论通过恰当性（properness）贡献了大量在监督学习中可采用的容许损失，大多数流行选择（logistic、平方、Matsushita 等）均属此类。与其对损失函数做可能有偏的特设选择，近来出现了在训练模型本身的同时使损失适配所处领域的诸多努力。关键方法拟合一个典则链接（canonical link），即一个将闭单位区间单调映射到 R 的函数，并可通过积分给出恰当损失。本文中，我们依托更广义的恰当复合损失视角以及信息几何中近来的构造——源函数（source functions），其拟合可缓解典则链接所面临的约束。我们引入一个针对平方高斯过程的技巧，以获得一种随机过程，其样本路径具备在链接估计背景下诸多理想性质的合规源函数。实验结果表明相较当前最优方法有显著提升。