面向无监督特征选择的少样本学习方法
机器学习
2021-07-05 v1 机器学习
摘要
我们提出一种面向无监督特征选择的少样本学习方法，该任务旨在从无标签数据中选取相关特征子集。现有方法通常需要大量实例进行特征选择。然而在实践中充足实例往往难以获取。所提方法借助多个源任务中的无标签实例进行训练，可在给定少量无标签目标实例时于目标任务中选取相关特征子集。我们的模型由特征选择器和解码器组成。特征选择器以少量无标签实例为输入，输出相关特征子集，使解码器能从所选特征重建未见实例的原始特征。特征选择器使用Concrete随机变量通过梯度下降选取特征。为将少量无标签实例的任务特定属性编码至模型，Concrete随机变量与解码器采用以少量无标签实例为输入的置换不变神经网络建模。我们的模型通过最小化给定少量无标签实例下的期望测试重建误差（由源任务数据集计算）进行训练。实验表明所提方法优于现有特征选择方法。
引用
@article{arxiv.2107.00816,
title = {Few-shot Learning for Unsupervised Feature Selection},
author = {Atsutoshi Kumagai and Tomoharu Iwata and Yasuhiro Fujiwara},
journal= {arXiv preprint arXiv:2107.00816},
year = {2021}
}
备注
20 pages