特征引导的神经网络分析：复制研究
机器学习
2025-11-04 v1
摘要
理解神经网络为何作出特定决策对于其在安全关键型应用中使用至关重要。特征引导分析（Feature-Guided Analysis, FGA）提取与任务相关的神经网络切片。现有特征引导方法通常监控神经网络神经元的激活，以提取相关规则。初步结果令人鼓舞，展示了通过评估 FGA 在两个初始案例研究中的精确率和召回率，证明了该解决方案的可行性。然而，针对工业场景的适用性需要额外的实证证据。为缓解这一需求，本文在由 MNIST 和 LSC 数据集组成的基准上评估了 FGA 的适用性。我们评估了 FGA 在计算解释神经网络行为规则方面的有效性。结果表明，FGA 在基准测试中的精确率高于文献中结果。我们还评估了神经网络架构、训练和特征选择如何影响 FGA 的有效性。结果表明，选择对 FGA 的召回率有显著影响，而对其精确率影响微乎其微。
引用
@article{arxiv.2511.00052,
title = {Feature-Guided Analysis of Neural Networks: A Replication Study},
author = {Federico Formica and Stefano Gregis and Aurora Francesca Zanenga and Andrea Rota and Mark Lawford and Claudio Menghi},
journal= {arXiv preprint arXiv:2511.00052},
year = {2025}
}