中文

网络数据上的多任务度量学习

机器学习 2014-11-11 v1 机器学习

摘要

多任务学习(MTL)通过在多个不同但相关的任务上联合学习模型,在不同情境下提高了预测性能。网络数据作为一种具有丰富关系结构的先验数据,为应用 MTL 提供了重要背景。特别是,显式的关系结构意味着网络数据不是独立同分布(i.i.d.)数据。网络数据通常还带有与每个实体(节点)相关联的重要元数据(即属性)。此外,由于网络数据的多样性和变异性(例如多关系链接或多类别实体),可以执行各种任务,且它们之间往往存在丰富的相关性。学习算法应利用所有这些额外的信息来源以获得更好的性能。在这项工作中,我们从度量学习的角度处理网络背景下的 MTL 问题。我们的方法建立在结构保持度量学习(SPML)的基础上。具体而言,SPML 利用网络结构作为监督信号,为节点属性学习一个 Mahalanobis 距离度量,使得学习到的距离函数能够编码结构并可用于从属性预测链接模式。SPML 是针对单网络上的单任务学习描述的。在此,我们提出了 SPML 的多任务版本,简称为 MT-SPML,它能够通过共享中间参数化在多个网络上的多个相关任务间进行学习。MT-SPML 为每个任务学习一个特定度量,并为所有任务学习一个公共度量。任务相关性通过公共度量传递,而各个度量则编码特定于任务的信息。当结合在一起时,它们相对于各个任务是结构保持的。MT-SPML 适用于一般网络,因此适合各种问题。在实验中,我们在两个现实世界问题上对 MT-SPML 进行了挑战,MT-SPML 取得了显著改进。

关键词

引用

@article{arxiv.1411.2337,
  title  = {Multi-Task Metric Learning on Network Data},
  author = {Chen Fang and Daniel N. Rockmore},
  journal= {arXiv preprint arXiv:1411.2337},
  year   = {2014}
}