基于主成分分析与特征重要性的神经网络对函数型数据预测的解释方法
机器学习
2020-10-26 v1 信号处理
摘要
从爆炸视频中提取的光谱-时间特征可为识别相应爆炸装置的特征提供信息。目前，该识别依赖于启发式算法与领域专家直接审查。使用机器学习可能提升预测性能，但该应用关乎高后果的国家安全决策，因此不仅需提供高准确率，还需对预测给出清晰解释以建立对模型的信任。尽管在开发机器学习模型可解释性方法方面已有大量工作，但关注光学光谱-时间特征等函数型输入变量情形的研究甚少。我们提出了一种解释使用函数型数据拟合的机器学习模型的流程，该流程考虑了数据的函数型本质。我们的方法利用函数型主成分分析（fPCA）与置换特征重要性（PFI）。fPCA 用于将函数变换为不相关的函数型主成分（fPCs）。模型以 fPCs 作为输入进行训练，并应用 PFI 识别对预测重要的 fPCs。通过可视化解释 PFI 判定为重要的 fPCs 所表征的变异性，以确定函数中对预测重要的方面。我们以解释拟合于爆炸光学光谱-时间特征以预测爆炸装置特征的神经网络为例演示了该技方法。
引用
@article{arxiv.2010.12063,
title = {Explaining Neural Network Predictions for Functional Data Using Principal Component Analysis and Feature Importance},
author = {Katherine Goode and Daniel Ries and Joshua Zollweg},
journal= {arXiv preprint arXiv:2010.12063},
year = {2020}
}
备注
Presented at AAAI FSS-20: Artificial Intelligence in Government and Public Sector, Washington, DC, USA., 7 pages, 7 figures