测试卷积神经网络的通道
机器学习
2023-03-08 v1 人工智能
软件工程
摘要
神经网络结构复杂，因此难以理解其内部工作机制并确保正确性。为理解和调试卷积神经网络（CNNs），我们提出了测试 CNN 通道的技术。我们设计了 FtGAN，一种 GAN 的扩展，能够生成测试数据，并可改变目标 CNN 某一通道的强度（即神经元之和）。我们还提出了一种通道选择算法，以寻找用于测试的代表性通道。为高效检查目标 CNN 的推理计算，我们定义了意外性分数（unexpectedness score），用于估计测试数据的推理计算与训练数据的相似程度。我们使用五个公开数据集对 FtGAN 进行了评估，结果表明我们的技术成功识别了五种不同 CNN 模型中的缺陷通道。
引用
@article{arxiv.2303.03400,
title = {Testing the Channels of Convolutional Neural Networks},
author = {Kang Choi and Donghyun Son and Younghoon Kim and Jiwon Seo},
journal= {arXiv preprint arXiv:2303.03400},
year = {2023}
}
备注
7pages, AAAI2023