基于迁移学习改进自动化机器学习
机器学习
2022-02-01 v6 计算机视觉与模式识别
摘要
在本文中，我们提出一种基于某些基线任务与目标任务之间相似性度量的神经架构搜索框架。我们首先基于Fisher信息矩阵的log行列式定义任务相似性的概念。接下来，我们计算从各基线任务到目标任务的任务相似性。通过利用目标与一组已学习基线任务之间的关系，目标任务架构的搜索空间可显著缩小，使得在可能架构集合中最佳候选的发现，就GPU天数而言，变得易于处理且高效。该方法消除了给定目标任务从头训练网络的要求，并引入了来自人类领域的搜索空间初始化偏差。
关键词
引用
@article{arxiv.2103.00241,
title = {Improved Automated Machine Learning from Transfer Learning},
author = {Cat P. Le and Mohammadreza Soltani and Robert Ravier and Vahid Tarokh},
journal= {arXiv preprint arXiv:2103.00241},
year = {2022}
}