用于可微特征选择与重构的crete自动编码器
机器学习
2019-02-01 v2 机器学习
摘要
我们提出crete自动编码器，一种端到端可微的全局特征选择方法，它能高效识别出最具信息量的特征子集，并同时学习一个神经网络以从所选特征重构输入数据。我们的方法是无监督的，基于使用crete选择器层作为编码器、标准神经网络作为解码器。在训练阶段，crete选择器层的温度逐渐降低，从而促使学习到用户指定数量的离散特征。在测试时，所选特征可与解码器网络一起用于重构其余输入特征。我们在多个数据集上评估了crete自动编码器，其显著优于最先进的特征选择与数据重构方法。特别是在一个大规模基因表达数据集上，crete自动编码器选出了一小群基因，其表达水平可用于推算其余基因的表达水平。此举改进了当前广泛使用的专家筛选 L1000 landmark 基因，潜在地降低了 20% 的测量成本。crete自动编码器只需在标准自动编码器中添加几行代码即可实现。
引用
@article{arxiv.1901.09346,
title = {Concrete Autoencoders for Differentiable Feature Selection and Reconstruction},
author = {Abubakar Abid and Muhammad Fatih Balin and James Zou},
journal= {arXiv preprint arXiv:1901.09346},
year = {2019}
}
备注
Submitted to ICML 2019