约束少样本学习:类人的低样本复杂度学习与非 episodic 文本分类
机器学习
2023-12-08 v2 计算与语言
摘要
少样本学习(FSL)是一种新兴的学习范式,试图以低样本复杂度学习推理,以模仿人类从少量已见样本中学习、泛化与外推的方式。尽管 FSL 试图模仿这些人类特征,但从根本上看,以基于 episode 训练的元学习常规形式化的 FSL 任务实际上并不符合人类获取与运用知识进行推理的方式。采用 episode 训练的 FSL 虽仅需每个测试类 K 个实例,仍需要来自不相交类的大量带标签训练实例。本文引入新颖的约束少样本学习(CFSL)任务,其为 FSL 的特例,其中每个训练类的实例数 M 受约束满足 M ≤ K,从而在 FSL 训练与测试阶段施加类似限制。我们提出一种利用 Cat2Vec 的 CFSL 方法,使用受模糊痕迹理论与原型理论等认知理论启发的新型类别对比损失。
引用
@article{arxiv.2208.08089,
title = {Constrained Few-Shot Learning: Human-Like Low Sample Complexity Learning and Non-Episodic Text Classification},
author = {Jaron Mar and Jiamou Liu},
journal= {arXiv preprint arXiv:2208.08089},
year = {2023}
}
备注
Add additional references Update various sections for clarity