通过符号字符串操作在 OoD 检测器中优先处理角点
软件工程
2022-05-17 v1 机器学习
摘要
对于深度神经网络（DNNs）的安全保障，分布外（OoD）监测技术至关重要，因为它们可过滤远离训练数据集的伪输入。本文研究系统性测试 OoD 监测器的问题，以避免出现如下情况：某输入数据点被监测器测试为分布内，但 DNN 产生伪输出预测。我们考虑在特征空间中由从训练数据集学到的超矩形并集所刻画的“分布内”定义。因此测试简化为在特征空间中寻找远离可用训练数据的超矩形角点。具体地，我们将每个数据点的抽象位置编码为定长二进制字符串，并使用二元决策图（BDDs）紧凑存储所有二进制字符串的并集。我们展示如何利用 BDDs 符号化提取远离训练集内所有数据点的角点。除测试用例生成外，我们解释如何使用所提角点对 DNN 进行微调，以确保其不会做出过度自信的预测。结果在数字与交通标志识别等示例上进行了评估。
引用
@article{arxiv.2205.07736,
title = {Prioritizing Corners in OoD Detectors via Symbolic String Manipulation},
author = {Chih-Hong Cheng and Changshun Wu and Emmanouil Seferis and Saddek Bensalem},
journal= {arXiv preprint arXiv:2205.07736},
year = {2022}
}