Comgra：用于分析和调试神经网络的工具
机器学习
2024-08-01 v1
摘要
神经网络难以检查。我们引入comgra，一个用于PyTorch的开源Python库。Comgra提取有关模型内部激活的数据并将其组织到图形用户界面(GUI)中。它可以显示摘要统计信息和单个数据点，比较训练的早期和晚期阶段，聚焦于感兴趣的单个样本，并可视化网络中梯度的传递。这使得从多个角度检查模型行为成为可能，通过快速测试不同假设而无需重新运行，从而节省时间。Comgra可用于调试、神经网络架构设计和机制解释。我们通过Python包索引(PyPI)发布我们的库，并在https://github.com/FlorianDietz/comgra提供代码、文档和教程。
引用
@article{arxiv.2407.21656,
title = {Comgra: A Tool for Analyzing and Debugging Neural Networks},
author = {Florian Dietz and Sophie Fellenz and Dietrich Klakow and Marius Kloft},
journal= {arXiv preprint arXiv:2407.21656},
year = {2024}
}