面向基于视觉着陆系统学习保证的机制可解释性

欧洲航空安全局（EASA）的学习保证指南要求数据驱动的航空系统构建并监控其自身的情景表示，然而对于神经网络而言，提供此类证据的技术手段仍然是一个悬而未决的问题。我们针对一个基于视觉的飞机着陆系统解决了这一差距：我们提出，一个最小可保证模型至少必须被证明在其自身的情景表示中分离了内容与风格。证明模型的预测随后主要依赖于内容丰富的表示成分，从而形成了一条具体的保证路径。为了在具体模型上演示这条保证路径，我们在LARDv2数据集上训练了一个用于跑道关键点回归的视觉变换器模型。该模型作为我们保证演示的主体，生成逐块嵌入，我们通过K-SVD稀疏字典学习将其分解为可解释的原子。定性可视化证实，内容原子跟踪任务相关的跑道结构，风格原子跟踪领域特定的外观，并且回归头几乎将其所有线性权重放在内容原子上。我们进一步基于内容/风格分离定义了模型外范围（OOMS）检测，这是一种直接监控模型情景表示的新型运行时保证方法。OOMS监控是对操作设计域和输出空间分布外监控的补充，并解决了EASA最新指南的具体要求。通过在测试时和运行时直接分析模型的情景表示，这项工作提供了EASA学习保证指南所要求的表示级证据的第一个具体部分，并指出机制可解释性是未来航空安全案例的实用构建块。