MOKD：通过最大化优化核依赖实现跨域少样本分类
机器学习
2024-05-30 v1 计算机视觉与模式识别
摘要
在跨域少样本分类中，最近质心分类器（NCC）旨在学习表示以构建一个空间，其中可以通过测量样本与每个类别原型之间的相似性来执行少样本分类。NCC 的直觉是每个样本被拉向其所属的类别质心，同时被推远至其他类别的质心。然而，本文发现，NCC 学习的表示对于来自不同类别的两个样本之间存在高度相似性。为解决此问题，我们提出了一套基于最大化优化核依赖（MOKD）的双层优化框架，以学习一组匹配给定任务标签数据所指示的聚类结构的类别特定表示。具体而言，MOKD 首先优化用于 NCC 中的核函数，以获得能够更精确捕获依赖性的优化核 HSIC（opt-HSIC）。然后，针对 opt-HSIC 解决一个优化问题，以同时最大化表示与标签之间的依赖性并最小化所有样本之间的依赖性。在 Meta-Dataset 上进行的大量实验表明，MOKD 不仅在大多数情况下在未见域上实现更好的泛化性能，还能学习更好的数据表示聚类。MOKD 的项目仓库可在 https://github.com/tmlr-group/MOKD 上获得。
引用
@article{arxiv.2405.18786,
title = {MOKD: Cross-domain Finetuning for Few-shot Classification via Maximizing Optimized Kernel Dependence},
author = {Hongduan Tian and Feng Liu and Tongliang Liu and Bo Du and Yiu-ming Cheung and Bo Han},
journal= {arXiv preprint arXiv:2405.18786},
year = {2024}
}