Dataset2Vec：学习数据集元特征
机器学习
2021-01-12 v4 机器学习
摘要
元学习，或称学会学习，是一种利用先前学习经验来加速未见任务上学习过程的机器学习方法。作为一种数据驱动方法，元学习需要表示主要学习任务或数据集的元特征，传统上被估计为针对每个元任务需专家领域知识设计的工程化数据集统计量。本文首先提出一种称为Dataset2Vec的元特征提取器，它结合了工程化数据集元特征的通用性与深度神经网络所学元特征的表现力。主要学习任务或数据集被表示为层次化集合，即集合的集合，特别是预测变量/目标对的集合，随后采用DeepSet架构对其回归元特征。其次，我们提出一种数据丰富的新型辅助元学习任务，称为数据集相似性学习，旨在预测两个批次是否来自同一数据集或不同数据集。在一个针对120个模式各异的UCI数据集的大规模超参数优化元学习任务实验中，我们表明Dataset2Vec的元特征优于专家工程化元特征，从而首次证明了所学元特征对模式各异数据集的用处。
引用
@article{arxiv.1905.11063,
title = {Dataset2Vec: Learning Dataset Meta-Features},
author = {Hadi S. Jomaa and Lars Schmidt-Thieme and Josif Grabocka},
journal= {arXiv preprint arXiv:1905.11063},
year = {2021}
}