基于分类器（无关）扩散引导的元学习
机器学习
2023-02-01 v2
摘要
我们提出了一种元学习算法，可对神经网络模型进行零样本权重空间适应以处理未见任务。我们的方法重新利用了流行的自然语言引导与扩散模型等生成式图像合成技术，来生成适应于任务的神经网络权重。我们首先训练一个无条件生成式超网络模型以产生神经网络权重；然后训练第二个“引导”模型，该模型在给定自然语言任务描述时，遍历超网络潜空间，以零样本方式寻找高性能的任务适应权重。我们探索了两种用于潜空间引导的替代方法：基于“HyperCLIP”的分类器引导，以及条件式超网络潜扩散模型（“HyperLDM”），我们表明其受益于图像生成中常见的无分类器引导技术。最后，我们在 Meta-VQA 数据集上的一系列零样本学习实验中证明，我们的方法优于现有的多任务与元学习方法。
引用
@article{arxiv.2210.08942,
title = {Meta-Learning via Classifier(-free) Diffusion Guidance},
author = {Elvis Nava and Seijin Kobayashi and Yifei Yin and Robert K. Katzschmann and Benjamin F. Grewe},
journal= {arXiv preprint arXiv:2210.08942},
year = {2023}
}