KGTuner:面向知识图学习的高效超参数搜索
机器学习
2022-05-06 v1
摘要
尽管超参数(HPs)对知识图(KG)学习十分重要,现有方法未能高效地搜索它们。为解决此问题,我们首先分析不同 HPs 的性质,并度量从小子图到全图的迁移能力。基于该分析,我们提出一种高效的两阶段搜索算法 KGTuner,其在第一阶段于小子图上高效探索 HP 配置,并将表现最优的配置迁移到第二阶段在大型全图上进行微调。实验表明,我们的方法能在相同时间预算内一致地找到优于基线算法的 HPs,在开放图基准的大规模 KGs 上实现了四种嵌入模型平均 9.1% 的相对提升。
引用
@article{arxiv.2205.02460,
title = {KGTuner: Efficient Hyper-parameter Search for Knowledge Graph Learning},
author = {Yongqi Zhang and Zhanke Zhou and Quanming Yao and Yong Li},
journal= {arXiv preprint arXiv:2205.02460},
year = {2022}
}
备注
Accepted to ACL 2022 (long paper)