稀疏信息解缠：面向可解释人工智能的稀疏信息解缠方法

理解深度神经网络在医学成像和自动驾驶等高风险领域的决策至关重要。然而，这些模型往往缺乏透明度，尤其在计算机视觉中效果更为突出。原型部件基神经网络已成为一种有前景的解决方案，通过提供概念层面的解释。然而，大多数方法仅限于细粒度分类任务，仅少数如 InfoDisent 之例。InfoDisent 将原型模型扩展到像 ImageNet 等大规模数据集，但产生复杂的解释。我们引入稀疏信息解缠（Sparse Information Disentanglement for Explainability, SIDE），一种新颖方法，通过专门的训练和剪枝方案实现对原型部件可解释性的提升，从而强制稀疏性。结合取代 softmax 的 sigmoid 激活函数，这种方法使 SIDE 能够将每个类别仅关联到少量相关原型。大量实验表明，SIDE 在保持准确率的同时，将解释尺寸降低超过 $90\%$，大幅提升了原型基解释的可理解性。