Granger因果注意力专家混合模型：利用神经网络学习重要特征
机器学习
2020-12-14 v6 人工智能
神经与进化计算
摘要
了解输入特征对机器学习模型所作出决策的重要程度，对于增进我们对该类模型及底层数据的理解至关重要。本文提出一种基于神经网络估计特征重要性的新方法，其思想是将感兴趣的特征分配于注意力专家混合（AME）中的各个专家。AME 使用以 Granger 因果目标训练的注意力门控网络，学习在单一模型中联合产生准确预测以及特征重要性估计。我们的实验表明：（i）AME 提供的特征重要性估计优于最先进（SOTA）方法；（ii）AME 在估计特征重要性时显著快于现有方法；（iii）AME 发现的关联与领域专家所报道的一致。
引用
@article{arxiv.1802.02195,
title = {Granger-causal Attentive Mixtures of Experts: Learning Important Features with Neural Networks},
author = {Patrick Schwab and Djordje Miladinovic and Walter Karlen},
journal= {arXiv preprint arXiv:1802.02195},
year = {2020}
}
备注
AAAI Conference on Artificial Intelligence 2019