基于决策森林的鲁棒相似度与距离学习
机器学习
2020-08-24 v2 信息检索
机器学习
社会与信息网络
摘要
欧几里得距离等标准距离常无法捕捉条目间的恰当关系,进而导致欠优的推断与预测。已有许多算法被提出用于自动学习合适的距离,其中大多数采用线性方法在特征空间上学习全局度量。尽管这类方法具有良好的理论性质、可解释性以及计算高效的实现手段,其表达能力和容量有限。为提升表达能力而设计的方法则牺牲了线性方法的一个或多个优良性质。为弥合这一差距,我们提出一种用于距离学习任务的高表达能力新型决策森林算法,称之为相似度与度量随机森林(SMERF)。我们证明 SMERF 的树构建过程是对标准分类与回归树的正确推广。因此,SMERF 的数学驱动力通过其同回归森林的直接联系得以考察,而回归森林已有理论发展。其在模拟数据集上逼近任意距离并识别重要特征的能力得到了实证展示。最后,我们证明其能准确预测网络中的链接。
引用
@article{arxiv.2007.13843,
title = {Robust Similarity and Distance Learning via Decision Forests},
author = {Tyler M. Tomita and Joshua T. Vogelstein},
journal= {arXiv preprint arXiv:2007.13843},
year = {2020}
}
备注
Submitted to NeurIPS 2020