真实的混淆：GRAPHIC —— 基于网络科学的深度学习中的混淆矩阵方法
机器学习
2026-05-13 v2 人工智能
摘要
可解释人工智能已成为解决人工智能可靠性关切的有前景的研究领域。尽管在可解释人工智能方面取得了显著进展，但鲜有方法提供系统性地可视化和理解类间混淆方式以及它们如何随训练进程演变。本文提出 GRAPHIC，一种无网络结构限制的方法，用于在类层面分析神经网络。它利用从中间层派生的混淆矩阵构建线性分类器。我们将其解释为有向图的邻接矩阵，使网络科学工具得以可视化和量化跨训练时段和中间层的学习动力学。GRAPHIC 提供关于线性类可分性、数据集问题和架构行为的见解，例如揭示了鳅鱼与头脑之间的相似性以及人类研究验证的标签歧义。在总结中，GRAPHIC 通过揭示真实的混淆，为神经网络如何学习提供了新的视角。代码已公开于 https://github.com/Johanna-S-Froehlich/GRAPHIC。
引用
@article{arxiv.2602.19770,
title = {The Confusion is Real: GRAPHIC -- A Network Science Approach to Confusion Matrices in Deep Learning},
author = {Johanna S. Fröhlich and Bastian Heinlein and Jan U. Claar and Hans Rosenberger and Vasileios Belagiannis and Ralf R. Müller},
journal= {arXiv preprint arXiv:2602.19770},
year = {2026}
}
备注
Transactions on Machine Learning Research, 2026