基于成对比较的动态度量学习
机器学习
2016-10-12 v1
摘要
距离度量学习的近期工作集中于学习数据变换，使其与通常由人类观察者提供的指定成对相似性与不相似性约束最佳对齐。由于距离或相似性度量得到更好的适配，学习到的变换可改进检索、分类和聚类算法。本文中，我们处理当底层约束生成过程非平稳时学习这些变换的问题。这种非平稳性可能源于用于生成约束的真实聚类发生变化，或源于类别结构得以显现的特征子空间发生变化。我们提出在线凸集成强自适应动态学习（Online Convex Ensemble StrongLy Adaptive Dynamic Learning，OCELAD），这是一种通用的自适应在线方法，用于学习和跟踪随时间变化的最优度量，并对变化度量中的多种非平稳行为具有高度鲁棒性。我们将 OCELAD 框架应用于在线学习器的集成。具体而言，我们创建了一个由一组具有不同学习率的并行 COMID 学习器组成的回溯初始化复合目标镜像下降（COMID）集成（retro-initialized composite objective mirror descent ensemble，RICE），在真实和合成数据集上展示了 RICE-OCELAD，并证明其性能相对于先前提出的批量和在线距离度量学习算法有显著提升。
引用
@article{arxiv.1610.03090,
title = {Dynamic Metric Learning from Pairwise Comparisons},
author = {Kristjan Greenewald and Stephen Kelley and Alfred Hero},
journal= {arXiv preprint arXiv:1610.03090},
year = {2016}
}
备注
to appear Allerton 2016. arXiv admin note: substantial text overlap with arXiv:1603.03678