DETA：用于少样本学习的去噪任务适配
计算机视觉与模式识别
2023-12-19 v3
摘要
少样本学习中的测试时任务适配旨在仅依靠少量带标签支持样本，将预训练的任务无关模型适配以捕获测试任务的特定知识。先前方法通常专注于开发先进算法以实现该目标，而忽视了给定支持样本的内在问题。事实上，在仅有少量样本可用时，来自支持样本的图像噪声（又称 X-noise）或标签噪声（又称 Y-noise）的 adverse effect 会被严重放大。为应对此挑战，本文提出 DEnoised Task Adaptation（DETA），一个与现有任务适配方法正交的、首个统一的图像与标签去噪框架。无需额外监督，DETA 利用支持样本的全局视觉信息与局部区域细节，过滤掉任务无关的有噪表示。在具挑战性的 Meta-Dataset 上，DETA 一致地提升了应用于多种预训练模型的广泛基线方法的性能。值得注意的是，通过解决 Meta-Dataset 中被忽视的图像噪声，DETA 建立了新的 state-of-the-art 结果。代码发布于 https://github.com/JimZAI/DETA。
引用
@article{arxiv.2303.06315,
title = {DETA: Denoised Task Adaptation for Few-Shot Learning},
author = {Ji Zhang and Lianli Gao and Xu Luo and Hengtao Shen and Jingkuan Song},
journal= {arXiv preprint arXiv:2303.06315},
year = {2023}
}
备注
10 pages, 5 figures