监督树-Wasserstein距离
机器学习
2021-07-26 v2 机器学习
摘要
为了度量文档的相似性,Wasserstein距离是一种强有力的工具,但它需要很高的计算代价。近来,为了实现Wasserstein距离的快速计算,已有方法提出利用树度量来近似Wasserstein距离。这些基于树的方法允许对大量文档进行快速比较;然而,它们是无监督的,无法学习任务特定的距离。在本工作中,我们提出监督树-Wasserstein(STW)距离,一种基于树度量的快速监督度量学习方法。具体而言,我们通过树的父子关系重写树度量上的Wasserstein距离,并使用对比损失将其表述为一个连续优化问题。在实验中,我们表明STW距离能够被快速计算,并提升了文档分类任务的准确率。此外,STW距离由矩阵乘法表述,可在GPU上运行,并且适合批处理。因此,我们表明STW距离在比较大量文档时极为高效。
引用
@article{arxiv.2101.11520,
title = {Supervised Tree-Wasserstein Distance},
author = {Yuki Takezawa and Ryoma Sato and Makoto Yamada},
journal= {arXiv preprint arXiv:2101.11520},
year = {2021}
}