为黑盒着色：神经网络决策的可视化
神经与进化计算
2018-02-26 v1 人工智能
机器学习
摘要
神经网络通常被视为执行难以理解函数的黑盒。对于分类问题，网络提供从高维特征空间到 K 维像空间的映射。训练向量的像被投影到多边形顶点上，提供网络函数的可视化。此类可视化可展示学习动态，允许比较不同网络，显示可能产生问题的训练向量周围情况，展示由于正则化和优化过程导致的差异，考察网络分类在原始向量扰动下的稳定性，并将新数据样本置于与训练数据的关系中，从而估计给定样本分类的置信度。文中描述了针对三类 Wine 数据和五类 Satimage 数据的说明性示例。此处提出的可视化方法适用于任何提供连续输出的黑盒系统。
引用
@article{arxiv.1802.08478,
title = {Coloring black boxes: visualization of neural network decisions},
author = {Wlodzislaw Duch},
journal= {arXiv preprint arXiv:1802.08478},
year = {2018}
}
备注
9 pages, 33 figures. Proc. of International Joint Conference on Neural Networks (IJCNN) 2003, Vol. I, pp. 1735-1740