学习抽象任务表示
机器学习
2021-02-01 v3
摘要
恰当的数据表征形式可以指导学习算法选择与模型性能估计的过程。元学习领域已提供了丰富的工作，使用不同族的元特征（统计的、基于模型的、信息论的、拓扑的等）来描述有效的数据表征形式。在本文中，我们从丰富的现有元特征集合出发，提出一种方法，在深度神经网络中将新的抽象元特征作为潜变量诱导出来。我们讨论了直接使用传统元特征的缺陷，并论证了学习高层任务属性的重要性。我们使用深度神经网络作为特征提取器来展示我们的方法。我们证明：1）将抽象元特征映射到泛化性能的诱导元模型平均优于其他方法约 18%；2）抽象元特征获得了较高的特征相关性得分。
引用
@article{arxiv.2101.07852,
title = {Learning Abstract Task Representations},
author = {Mikhail M. Meskhi and Adriano Rivolli and Rafael G. Mantovani and Ricardo Vilalta},
journal= {arXiv preprint arXiv:2101.07852},
year = {2021}
}