少样本机器学习研究综述
机器学习
2023-02-28 v3 计算机视觉与模式识别
机器学习
摘要
少样本学习(FSL)在机器学习领域中具有重要意义且富有挑战性。能够成功地从极少样本中学习与泛化,是人工智能与人类智能之间的显著分界线,因为人类仅凭单个或少数几个示例即可轻易建立对新事物的认知,而机器学习算法通常需要数百或数千个有监督样本才能保证泛化能力。尽管FSL的历史可追溯至21世纪初,且近年来随着深度学习技术的蓬勃发展受到广泛关注,但迄今为止鲜有针对FSL的综述或评论。在此背景下,我们广泛回顾了2000年代至2019年间的300余篇FSL论文,并提供了一份及时且全面的FSL综述。在本综述中,我们回顾了FSL的演进历史与当前进展,原则上将FSL方法划分为基于生成模型与基于判别模型两类,并特别强调了基于元学习(meta learning)的FSL方法。我们还总结了若干近期涌现的FSL扩展主题,并回顾了这些主题上的最新进展。此外,我们重点介绍了涵盖计算机视觉、自然语言处理、音频与语音、强化学习与机器人、数据分析等诸多研究热点的FSL重要应用。最后,我们以对有望趋势的讨论作结,期望为后续研究提供指导与启示。
引用
@article{arxiv.2009.02653,
title = {A Survey on Machine Learning from Few Samples},
author = {Jiang Lu and Pinghua Gong and Jieping Ye and Jianwei Zhang and Changshui Zhang},
journal= {arXiv preprint arXiv:2009.02653},
year = {2023}
}
备注
30 pages, Accepted by Pattern Recognition, 2023