用于解释所有神经网络的方差容忍因子
机器学习
2023-05-18 v2 信息检索
摘要
黑盒模型仅能提供深度学习任务的结果，而缺乏关于这些结果是如何得出的有用细节。除了知道输入变量为何与输出相关之外，了解它们如何与输出相关，对于将预测转化为实验室实验或在审查中捍卫模型预测可能至关重要。在本文中，我们提出了一个通用理论，受影响函数启发定义了方差容忍因子（VTF），通过在包含全部表现良好的神经网络的 Rashomon 集合中通过特征重要性排序来解释黑盒神经网络中的特征，并构建了一种由基模型和特征模型组成的新型架构以探索特征重要性。我们创建并探讨了 Rashomon 集合中的两种特征重要性排序方法以及一种基于 VTF 的特征选择方法。我们在合成数据集和基准数据集上进行了全面评估，并将该方法应用于两个真实世界案例：预测非晶态金纳米颗粒的形成，以及预测 1793 种芳香化合物暴露于原生纤毛 protozoan 40 小时后的化学毒性。
引用
@article{arxiv.2209.13858,
title = {Variance Tolerance Factors For Interpreting ALL Neural Networks},
author = {Sichao Li and Amanda Barnard},
journal= {arXiv preprint arXiv:2209.13858},
year = {2023}
}