学习平衡：面向不平衡与分布外任务的贝叶斯元学习
机器学习
2022-02-15 v3 机器学习
摘要
在现实场景中，任务所包含的实例数与类别数可能各不相同，而现有的少样本分类元学习方法假设每个任务及类别的实例数固定。受此限制，它们学会跨所有任务平等地利用元知识，即便各任务及类别的实例数差异巨大。此外，它们未考虑未见任务中的分布差异，而元知识的有用程度可能随任务相关性而降低。为克服这些局限，我们提出一种新颖的元学习模型，可在每个任务内自适应地平衡元学习与任务特定学习的影响。通过学习平衡变量，我们可决定是依赖元知识还是任务特定学习来求解。我们将该目标表述为贝叶斯推断框架，并使用变分推断求解。我们在多个现实的任务与类别不平衡数据集上验证了贝叶斯任务自适应元学习（Bayesian TAML），其显著优于现有元学习方法。进一步的消融研究证实了各平衡组件及贝叶斯学习框架的有效性。
引用
@article{arxiv.1905.12917,
title = {Learning to Balance: Bayesian Meta-Learning for Imbalanced and Out-of-distribution Tasks},
author = {Hae Beom Lee and Hayeon Lee and Donghyun Na and Saehoon Kim and Minseop Park and Eunho Yang and Sung Ju Hwang},
journal= {arXiv preprint arXiv:1905.12917},
year = {2022}
}