Partition of Unity神经网络：用于可解释分类的显式类别区域

尽管神经网络分类器在实践中表现优异，但仍难以解释。在softmax-based模型中，类别区域被定义为逻辑值之间不等式系统的解，难以提取和可视化。我们引入Partition of Unity神经网络（PUNN），这是一种架构，其中类别概率直接来自所学的单位分割，无需softmax层。PUNN构造$k$个非负函数$h_1, \ldots, h_k$满足$\sum_i h_i(x) = 1$，其中每个$h_i(x)$直接表示$P(\text{class } i \mid x)$。与softmax不同，PUNN的每个分割函数$h_i$直接定义了类别$i$的概率作为$x$的独立函数。我们证明了PUNN在紧凑域上连续概率图的稠密空间中是稠密的。定义分割的门函数$g_i$可以采用各种激活函数（sigmoid、Gaussian、bump）和参数化，从灵活的MLP到参数高效的受几何先验启发的设计（球壳、椭圆体、球面调和函数）。在合成数据、UCI基准和MNIST上的实验表明，采用MLP-based门的PUNN在准确率上仅低于标准多层感知机0.3--0.6%。当几何先验匹配数据结构时，受几何先验启发的门在准确率上可与之相当，但参数数量最多可减少300倍。这些结果表明，可解释性即设计的架构在保持黑箱模型竞争性能的同时，能够提供透明的类别概率分配。