一种探测核函数定正性的经验方法
机器学习
2018-07-11 v1 机器学习
摘要
支持向量机或高斯过程回归等模型常需要半正定核。这些核可能基于距离函数。虽然对常用距离与核的定正性已有证明,但对于仅以实用为目标的使用者而言,证明一个新核的定正性可能耗费过多时间与精力。此外,设计定正距离或核同样可能十分复杂。最后,模型可被启用为使用不定核,这可能劣化模型的精度或计算代价。因此,需要一种确定定正性的高效方法。我们提出一种经验方法。我们展示可采用采样以及用进化算法进行优化来确定定正性。我们用 16 种不同的排列距离度量给出概念验证。我们的方法若发现相应反例则可证伪定正性。它也可估计获得不定核矩阵的可能性。这提供了一个简单高效的工具,以决定是否应在设计/选择更合适的核或算法上投入额外精力。
引用
@article{arxiv.1807.03555,
title = {An Empirical Approach For Probing the Definiteness of Kernels},
author = {Martin Zaefferer and Thomas Bartz-Beielstein and Günter Rudolph},
journal= {arXiv preprint arXiv:1807.03555},
year = {2018}
}
备注
preprint submitted to Soft Computing journal, Springer