基于PAC的形式化验证用于分布外数据检测

利用学习组件的信息物理系统（CPS，如自动驾驶汽车）通常对运行时遇到的噪声和分布外（OOD）实例较为敏感。因此，安全关键任务依赖于OOD检测子系统，以将CPS恢复到已知状态或中断执行，从而防止安全性受损。然而，由于难以刻画实例的OOD特征（尤其是在高维非结构化数据中），很难保证OOD检测器的性能。为了区分OOD数据与学习组件在训练过程中已知的数据，一种新兴技术是在系统中引入变分自编码器（VAE），并对其潜空间应用分类或异常检测技术。这样做的理由是通过编码过程缩小数据域规模，从而降低实时系统的处理需求、促进非结构化数据的特征分析，并允许实现更具可解释性的技术。本研究利用VAE中的编码过程对图像特征进行量化并施加共形约束，从而给出基于可能近似正确（PAC）的OOD检测保证。这用于以用户定义的置信度界定不熟悉实例上的检测误差。本研究采用的方法是通过采样潜概率分布并针对遇到的约束违反评估误差，来经验性地建立这些界限。随后使用开源驾驶模拟器CARLA生成的数据对该保证进行验证。