基于成对比较的相似性函数跟踪
机器学习
2017-10-11 v1 机器学习
摘要
距离度量学习近期的工作集中于学习数据变换，以最佳对齐指定的成对相似与不相似约束，这些约束通常由人类观测者提供。由于更好适应的距离或相似性度量，所学变换改进了检索、分类和聚类算法。在此，我们解决当底层约束生成过程非平稳时学习这些变换的问题。这种非平稳性可能源于用于生成约束的地面真值聚类的变化，或类结构显现的特征子空间的变化。我们提出了在线凸集成强自适应动态学习（OCELAD），一种通用的自适应在线方法，用于随着时间变化学习和跟踪最优度量，其对变化度量中的多种非平稳行为高度鲁棒。我们将 OCELAD 框架应用于在线学习器集成。具体而言，我们创建了回溯初始化的复合目标镜像下降（COMID）集成（RICE），其由一组具有不同学习率的并行 COMID 学习器组成，并在合成数据和高度非平稳的 Twitter 数据集上展示了无参数的 RICE-OCELAD 度量学习。我们展示了相对于先前提出的批处理和在线距离度量学习算法，性能显著提升且对非平稳效应的鲁棒性增强。
引用
@article{arxiv.1701.02804,
title = {Similarity Function Tracking using Pairwise Comparisons},
author = {Kristjan Greenewald and Stephen Kelley and Brandon Oselio and Alfred O. Hero},
journal= {arXiv preprint arXiv:1701.02804},
year = {2017}
}
备注
submitted to IEEE transactions on signal processing. arXiv admin note: substantial text overlap with arXiv:1610.03090, arXiv:1603.03678