中文

JITuNE:面向网络嵌入算法的即时超参数调优

机器学习 2021-01-20 v2

摘要

网络嵌入(NE)能为大规模网络生成简洁的节点表示,并使常见机器学习方法可直接应用于网络结构。各类 NE 算法已被提出并用于节点分类和链接预测等多种应用。NE 算法通常包含对性能至关重要的超参数,但超参数调优过程可能耗时。期望能在指定时长内完成超参数调优。尽管 AutoML 方法已应用于 NE 算法的超参数调优,但如何在给定时间内为 NE 算法调优超参数的问题此前未被研究。本文提出 JITuNE,一种面向 NE 算法的即时超参数调优框架。我们的 JITuNE 框架通过在分层网络概要(synopsis)上进行调优并将概要上获得的知识迁移至整个网络,实现了 NE 算法的时间受限超参数调优。概要的分层生成与一种时间受限调优方法使整体调优时间得以约束。大量实验表明,JITuNE 能显著提升 NE 算法性能,在相同算法运行次数下优于 SOTA 方法。

关键词

引用

@article{arxiv.2101.06427,
  title  = {JITuNE: Just-In-Time Hyperparameter Tuning for Network Embedding Algorithms},
  author = {Mengying Guo and Tao Yi and Yuqing Zhu and Yungang Bao},
  journal= {arXiv preprint arXiv:2101.06427},
  year   = {2021}
}