上下文感知元学习
机器学习
2024-03-27 v2 计算机视觉与模式识别
摘要
诸如 ChatGPT 之类的大语言模型（LLM）展现出在推理过程中无需任何微调即可学习新概念的卓越能力。然而，训练用于在推理时检测新物体的视觉模型一直无法复现这一能力，反而要么表现不佳，要么需要在相似物体上进行元训练和/或微调。在本工作中，我们提出一种元学习算法，通过在不微调的情况下于推理时学习新视觉概念来模拟大语言模型。我们的方法利用冻结的预训练特征提取器，并且类比于上下文学习，将视觉元学习重新表述为对具有已知标签的数据点与具有未知标签的测试数据点进行的序列建模。在 11 个元学习基准中的 8 个上，我们的方法——无需元训练或微调——超越或匹敌最先进算法 P>M>F，而后者在这些基准上进行了元训练。我们的代码可在 https://github.com/cfifty/CAML 获取。
引用
@article{arxiv.2310.10971,
title = {Context-Aware Meta-Learning},
author = {Christopher Fifty and Dennis Duan and Ronald G. Junkins and Ehsan Amid and Jure Leskovec and Christopher Re and Sebastian Thrun},
journal= {arXiv preprint arXiv:2310.10971},
year = {2024}
}
备注
ICLR 2024