多视图数据中的自监督度量学习：下游任务视角

Shulei Wang

多视图数据中的自监督度量学习：下游任务视角

机器学习 2022-03-18 v4 机器学习统计理论统计方法学统计理论

作者: Shulei Wang

摘要

自监督度量学习已成为从未标注数据集中学习距离的一种成功方法。所得距离广泛有益于改进各类基于距离的下游任务，即便在度量学习阶段未利用来自下游任务的任何信息。为深入理解该方法，我们发展了一个统计框架，从理论层面研究自监督度量学习如何在多视图数据背景下惠及下游任务。在此框架下，我们表明度量学习的目标距离满足下游任务的若干期望性质。另一方面，我们的研究表明可通过调节各方向权重进一步改进目标距离。此外，我们的分析精确刻画了自监督度量学习在四个常用下游任务上的改进：样本辨识、双样本检验、 $k$ -均值聚类和 $k$ -近邻分类。当距离从未标注数据集估计时，我们建立了距离估计精度的上界以及足以改进下游任务所需的样本数量。最后，数值实验被用于支撑文中的理论结果。

关键词

自监督度量学习多视图数据下游任务统计框架 $k$-均值聚类 $k$-近邻分类

引用

@article{arxiv.2106.07138,
  title  = {Self-Supervised Metric Learning in Multi-View Data: A Downstream Task Perspective},
  author = {Shulei Wang},
  journal= {arXiv preprint arXiv:2106.07138},
  year   = {2022}
}

多视图数据中的自监督度量学习：下游任务视角

摘要

关键词

引用

相关论文