基于模糊积分神经网络实现深度学习中的可解释融合
神经与进化计算
2019-06-04 v1 机器学习
摘要
信息融合是众多工程系统和生物功能（如人类认知）的重要组成部分。融合发生在多个层次，从低层信号组合到高层异构决策过程的聚合。尽管过去十年深度学习研究呈爆发式增长，神经网络中的融合并未经历同样的变革。具体而言，大多数神经融合方法是临时的、未被理解的、分布而非局部的，且可解释性低（即便存在）。本文中，我们证明强大的非线性聚合函数——模糊Choquet积分（ChI）可表示为多层网络，此后称为ChIMP。我们还提出了一种改进的ChIMP（iChIMP），鉴于ChI不等式约束的指数级数量，其带来了基于随机梯度下降的优化。ChIMP/iChIMP的另一益处是它实现了可解释AI（XAI）。我们提供了合成验证实验，并将iChIMP应用于遥感中一组异构架构深度模型的融合。我们展示了模型准确性的提升，且我们先前建立的XAI指标揭示了数据、模型及其决策的质量。
引用
@article{arxiv.1905.04394,
title = {Enabling Explainable Fusion in Deep Learning with Fuzzy Integral Neural Networks},
author = {Muhammad Aminul Islam and Derek T. Anderson and Anthony J. Pinar and Timothy C. Havens and Grant Scott and James M. Keller},
journal= {arXiv preprint arXiv:1905.04394},
year = {2019}
}
备注
IEEE Transactions on Fuzzy Systems