卷积神经网络中分类误差估计的随机方法
计算机视觉与模式识别
2024-01-15 v1 机器学习
摘要
本技术报告介绍了在安全关键应用中用于图像分类的已训练卷积神经网络（CNN）验证领域取得的研究成果。作为贯穿示例，我们使用了未来自动化等级（GoA）4 级自主货运列车所需的障碍物检测功能。研究表明，像 GoA 4 级货运列车这样的系统，如今确实可以通过在长期存在的标准 EN 50128 和 EN 50129 之外，额外使用 ANSI/UL 4600 和 ISO 21448 等新标准进行认证。此外，我们对障碍物检测功能预期的系统级危险率进行了定量分析。结果表明，通过使用传感器/感知器融合，融合后的检测系统能够满足被认为可接受的安全完整性等级（SIL-3）所要求的容许危险率。我们对 CNN 模型进行了数学分析，从而识别出划分 CNN 图像输入空间的分类簇和等价类。这些簇和类被用来引入一种新颖的统计测试方法，用于确定已训练 CNN 的残余误差概率及相关的置信上限。我们认为，这种考虑 CNN 模型内部结构的灰盒 CNN 验证方法，对于证明统计测试已全面覆盖已训练 CNN 的神经元及其层间映射至关重要。
引用
@article{arxiv.2401.06156,
title = {A Stochastic Approach to Classification Error Estimates in Convolutional Neural Networks},
author = {Jan Peleska and Felix Brüning and Mario Gleirscher and Wen-ling Huang},
journal= {arXiv preprint arXiv:2401.06156},
year = {2024}
}