SkelEx 与 BoundEx：ReLU 神经网络的自然可视化
机器学习
2023-05-10 v1 人工智能
摘要
尽管可解释性有限，权重与偏置仍是最流行的 ReLU 神经网络（ReLU NNs）所学函数的编码方式。为此我们引入 SkelEx，一种提取 ReLU NNs 所学隶属函数骨架的算法，使这些函数更易于解释与分析。据我们所知，这是首项从临界点视角考察线性区域的工作。作为自然延伸，我们还引入 BoundEx，据我们所知这是首个从 ReLU NN 实现中提取决策边界的解析方法。这两种方法均为在低维数据上训练的 ReLU NNs 提供了非常自然的可视化工具。
引用
@article{arxiv.2305.05562,
title = {SkelEx and BoundEx: Natural Visualization of ReLU Neural Networks},
author = {Pawel Pukowski and Haiping Lu},
journal= {arXiv preprint arXiv:2305.05562},
year = {2023}
}