MSplit LBI：在少样本与零样本学习中同时实现特征选择与稠密估计
计算机视觉与模式识别
2021-03-09 v1
摘要
学习一个良好的嵌入模型以高效学习两个空间/子空间之间的表示系数，是一个典型且通用的课题。为解决该任务， 正则化被广泛用于追求特征选择并避免过拟合，然而 正则化中的特征稀疏估计可能导致训练数据的欠拟合。 正则化也常被使用，但它是有偏估计。本文提出一种观点：特征由三个正交部分构成，即稀疏强信号、稠密弱信号与随机噪声，其中强信号与弱信号均对数据拟合有贡献。为促成这一新颖分解，首次提出 \emph{MSplit} LBI 以同时实现特征选择与稠密估计。我们提供了理论与仿真验证，表明我们的方法超越 与 正则化，且大量实验结果表明我们的方法在少样本和零样本学习中取得了最先进的性能。
引用
@article{arxiv.1806.04360,
title = {MSplit LBI: Realizing Feature Selection and Dense Estimation Simultaneously in Few-shot and Zero-shot Learning},
author = {Bo Zhao and Xinwei Sun and Yanwei Fu and Yuan Yao and Yizhou Wang},
journal= {arXiv preprint arXiv:1806.04360},
year = {2021}
}
备注
Accepted by the 35th International Conference on Machine Learning