利用模糊逻辑与概念嵌入实现感知任务中深度神经网络验证
计算机视觉与模式识别
2022-03-15 v2 机器学习
计算机科学中的逻辑
摘要
深度卷积神经网络(CNN)用于安全关键应用的一个主要缺点是其黑盒性质。这使得对已训练计算机视觉CNN的复杂符号化需求进行验证或监控变得困难。在本工作中,我们提出一种简单而有效的方法,用于验证CNN是否符合关联视觉概念的符号谓词逻辑规则。该方法是首个(1)不修改CNN,(2)可使用非CNN输入或输出特征的视觉概念,且(3)能利用连续CNN置信度输出的方法。为此,我们新近结合了可解释人工智能与逻辑的方法:首先,使用有监督概念嵌入分析,事后以概念输出丰富CNN的输出;其次,将先验知识中的规则建模为接受CNN输出的真值函数,并能以极少计算开销进行求值。我们在此研究模糊逻辑(即连续真值)与恰当输出校准的使用,二者在理论与实践上均显示出轻微优势。适用性在三个验证用例的最先进目标检测器上得到展示,其中对规则违背的监控可揭示检测错误。
引用
@article{arxiv.2201.00572,
title = {Enabling Verification of Deep Neural Networks in Perception Tasks Using Fuzzy Logic and Concept Embeddings},
author = {Gesina Schwalbe and Christian Wirth and Ute Schmid},
journal= {arXiv preprint arXiv:2201.00572},
year = {2022}
}
备注
32 pages (including 14 pages supplemental material), 11 Figures, 8 Tables