SCHA-VAE：用于少样本生成的分层上下文聚合
机器学习
2022-07-05 v3 人工智能
机器学习
摘要
少样本生成模型应仅通过观察有限的一组样本，便能生成来自新分布的数据。在少样本学习中，模型在来自许多共享某些底层属性（如不同字母表中的字符集或不同类别的对象集）的分布的集合数据上进行训练。我们将当前针对集合的潜变量模型扩展为一种完全分层的方法，采用基于注意力的点至集合级聚合，并将我们的方法称为 SCHA-VAE（Set-Context-Hierarchical-Aggregation Variational Autoencoder，集合—上下文—分层—聚合变分自编码器）。我们探索了基于似然的模型比较、迭代数据采样以及无适应的分布外泛化。我们的结果表明，在小数据情形下，分层公式更好地捕捉了集合内的内在变异性。本工作将深度潜变量方法推广至少样本学习，以可与当前最先进深度生成模型协同工作的公式，向大规模少样本生成迈进了一步。
引用
@article{arxiv.2110.12279,
title = {SCHA-VAE: Hierarchical Context Aggregation for Few-Shot Generation},
author = {Giorgio Giannone and Ole Winther},
journal= {arXiv preprint arXiv:2110.12279},
year = {2022}
}
备注
ICML 2022