排除与包含——一种模型无关的DNN特征重要性分析方法
计算与语言
2022-06-01 v1 机器学习
统计计算
机器学习
摘要
自然语言处理中的深度神经网络（DNN）使系统能够学习复杂的非线性关系。阻碍DNN用于实际应用的瓶颈之一是其被视为黑箱。为解决该问题，我们提出了一种模型无关的算法，用于计算输入特征的短语级重要性。通过在回归和分类任务上进行实验，我们认为该方法可推广至多种不同的任务。我们还观察到该方法对异常值具有鲁棒性，这意味着它仅捕捉输入的本质方面。
引用
@article{arxiv.2007.16010,
title = {Exclusion and Inclusion -- A model agnostic approach to feature importance in DNNs},
author = {Subhadip Maji and Arijit Ghosh Chowdhury and Raghav Bali and Vamsi M Bhandaru},
journal= {arXiv preprint arXiv:2007.16010},
year = {2022}
}
备注
8 pages, 4 figures