Task2Vec：用于元学习的任务嵌入
机器学习
2019-02-12 v1 人工智能
机器学习
摘要
我们引入了一种方法，提供视觉分类任务的向量表示，可用于推理这些任务的性质及其关系。给定一个具有真实标签的数据集和定义在这些标签上的损失函数，我们通过“探针网络”处理图像，并基于与探针网络参数相关的 Fisher 信息矩阵的估计计算嵌入。这提供了任务的固定维度嵌入，该嵌入独立于诸如类别数量等细节，且不需要对类标签语义有任何理解。我们证明，这种嵌入能够预测任务相似性，这与我们对不同视觉任务之间语义和分类关系的直觉相匹配（例如，基于对不同类型植物进行分类的任务是相似的）。我们还展示了该框架在为新任务选择预训练特征提取器这一元任务中的实用价值。我们提出了一个简单的元学习框架，用于学习嵌入上的度量，该度量能够预测哪些特征提取器将表现良好。使用任务嵌入选择特征提取器可获得接近最佳可用特征提取器的性能，而其成本远低于在所有可用特征提取器上进行穷举训练和评估。
引用
@article{arxiv.1902.03545,
title = {Task2Vec: Task Embedding for Meta-Learning},
author = {Alessandro Achille and Michael Lam and Rahul Tewari and Avinash Ravichandran and Subhransu Maji and Charless Fowlkes and Stefano Soatto and Pietro Perona},
journal= {arXiv preprint arXiv:1902.03545},
year = {2019}
}