利用元数据语言嵌入的自动机器学习
机器学习
2019-10-10 v1 计算与语言
机器学习
摘要
作为选择监督学习算法的人类，自然地会先阅读数据集的文本描述以及可能使用的算法文档。我们证明同样的思路可提升自动化机器学习方法的性能。我们利用现代NLP的语言嵌入，通过为推荐补充数据集与算法的向量嵌入，改进了最先进的AutoML系统。我们在神经架构中使用这些嵌入来学习最佳执行流水线之间的距离。由此产生的(元-)AutoML框架改进了现有AutoML框架的性能。我们使用数据集元数据嵌入的零样本AutoML系统瞬时提供良好解，计算耗时不足一秒。当每个框架被分配一分钟计算时间时，其性能与OBOE、AutoSklearn、AlphaD3M和TPOT等AutoML系统相当。我们公开了数据、模型和代码。
引用
@article{arxiv.1910.03698,
title = {AutoML using Metadata Language Embeddings},
author = {Iddo Drori and Lu Liu and Yi Nian and Sharath C. Koorathota and Jie S. Li and Antonio Khalil Moretti and Juliana Freire and Madeleine Udell},
journal= {arXiv preprint arXiv:1910.03698},
year = {2019}
}