从具有时变突触权重的脉冲神经分类器中提取可解释知识的新方法
神经与进化计算
2019-04-26 v1 机器学习
机器学习
摘要
本文提出一种在 MC-SEFRON 分类器中实现信息可解释性的新方法。为开发从训练好的分类器中提取知识的方法，首先将早先开发的二分类 SEFRON 分类器扩展以处理多类问题。MC-SEFRON 使用群体编码方案将实值输入数据编码为脉冲模式。MC-SEFRON 采用与 SEFRON 中相同的监督学习规则进行训练。训练后，所提方法通过将时域中的加权突触后电位映射到特征域作为特征强度函数（FSF），提取分类器中给定类别的知识。与每个输出类别对应的一组 FSF 表示该分类器提取出的知识。该知识编码方法的导出保持了时域分类与特征域分类之间的一致性。FSF 的正确性通过使用 FSF 直接进行分类任务来定量度量。对于给定的输入，在每个输入值处采样 FSF 以获得相应的特征强度值（FSV）。然后将在每个类别上获得的聚合 FSV 用于在分类期间确定输出类别标签。FSV 也用于在分类任务中解释预测。使用十个 UCI 数据集和 MNIST 数据集，展示了知识提取方法、解释以及 FSF 的可靠性。基于研究可见，平均而言，直接使用 FSF 的分类准确率与 MC-SEFRON 所得者之差，在 UCI 数据集上仅约 0.9%，在 MNIST 数据集上仅约 0.1%。这清楚表明，FSF 所代表的知识具有可接受的可靠性，且利用分类器知识进行分类的可解释性得到了论证。
引用
@article{arxiv.1904.11367,
title = {A novel method for extracting interpretable knowledge from a spiking neural classifier with time-varying synaptic weights},
author = {Abeegithan Jeyasothy and Suresh Sundaram and Savitha Ramasamy and Narasimhan Sundararajan},
journal= {arXiv preprint arXiv:1904.11367},
year = {2019}
}
备注
16 pages, 6 figures