基于信息瓶颈的解耦生成方法用于少样本学习
计算机视觉与模式识别
2022-11-30 v1
摘要
少样本学习（FSL）旨在利用少量样本对未见类别进行分类，由于数据稀缺而具有挑战性。尽管已有多种生成方法被探索用于FSL，但这些方法的纠缠式生成过程加剧了FSL中的分布偏移，从而极大限制了生成样本的质量。针对这些挑战，我们提出了一种新颖的基于信息瓶颈（IB）的FSL解耦生成框架，称为DisGenIB，该框架能够同时保证生成样本的判别性与多样性。具体而言，我们构建了一个新颖的带有信息瓶颈的框架，该框架同时适用于解耦表示学习与样本生成。不同于现有难以利用先验的基于IB的方法，我们证明了我们的DisGenIB能够有效利用先验以进一步促进解耦。我们进一步从理论层面证明，一些先前的生成与解耦方法是我们的DisGenIB的特例，这展示了所提DisGenIB的通用性。在具有挑战性的FSL基准上的大量实验证实了DisGenIB的有效性与优越性，以及我们理论分析的正确性。我们的代码将在录用后开源。
引用
@article{arxiv.2211.16185,
title = {Disentangled Generation with Information Bottleneck for Few-Shot Learning},
author = {Zhuohang Dang and Jihong Wang and Minnan Luo and Chengyou Jia and Caixia Yan and Qinghua Zheng},
journal= {arXiv preprint arXiv:2211.16185},
year = {2022}
}