通过以恰当分辨率识别重要特征来理解习得模型
机器学习
2018-11-22 v2 机器学习
摘要
在许多应用领域中，刻画复杂习得模型如何跨实例分布做出决策十分重要。一种实现方式是识别对模型预测准确性有贡献的特征及其之间的交互。我们提出一种模型无关的方法来完成该任务，并作出如下具体贡献：我们的方法（i）除基础特征外还检验特征组，并尝试确定可识别重要特征的分辨率层级；（ii）使用假设检验来严格评估每个特征对模型损失的影响；（iii）采用层次化方法在检验特征组与单个基础特征的重要性时控制错误发现率；（iv）使用假设检验来识别特征与特征组之间的重要交互。我们通过分析在两个具有挑战性的生物医学应用中习得的随机森林与 LSTM 神经网络模型来评估我们的方法。
引用
@article{arxiv.1811.07279,
title = {Understanding Learned Models by Identifying Important Features at the Right Resolution},
author = {Kyubin Lee and Akshay Sood and Mark Craven},
journal= {arXiv preprint arXiv:1811.07279},
year = {2018}
}
备注
First two authors contributed equally to this work, Accepted for presentation at the Thirty-Third AAAI Conference on Artificial Intelligence (AAAI-19)