基于图神经网络的可扩展AutoML方法
机器学习
2022-07-18 v4
摘要
AutoML系统通过对有效数据变换和学习器进行搜索,并对每个学习器进行超参数优化,自动构建机器学习模型。许多AutoML系统使用元学习来引导对最优流水线的搜索。在这项工作中,我们提出了一种名为KGpip的新型元学习系统,其(1)通过程序分析挖掘数千个脚本,构建数据集及相应流水线的数据库;(2)使用数据集嵌入基于其内容而非基于元数据的特征来查找数据库中的相似数据集;(3)将AutoML流水线创建建模为图生成问题,以简洁刻画单一数据集上所见到的多样化流水线。KGpip的元学习是AutoML系统的子组件。我们通过将KGpip与两个AutoML系统集成来展示这一点。我们使用126个数据集(包括最先进系统所用的数据集)进行的综合评估表明,KGpip显著优于这些系统。
引用
@article{arxiv.2111.00083,
title = {A Scalable AutoML Approach Based on Graph Neural Networks},
author = {Mossad Helali and Essam Mansour and Ibrahim Abdelaziz and Julian Dolby and Kavitha Srinivas},
journal= {arXiv preprint arXiv:2111.00083},
year = {2022}
}
备注
14 pages, 9 figures. Accepted in VLDB22