进展中工作：基于自编码器的回归模型的安全性与鲁棒性验证——使用 NNV 工具
机器学习
2022-07-15 v1 人工智能
摘要
这篇进展中工作论文引入了基于自编码器的回归神经网络（NN）模型的鲁棒性验证，遵循图像分类 NN 鲁棒性验证的最新方法。尽管在各类深度神经网络（DNN）的安全性与鲁棒性验证方法开发方面持续取得进展，基于自编码器模型的鲁棒性检验尚未被考虑。我们探索这一开放的研究空间，并通过扩展现有的此类自编码器网络的鲁棒性分析方法，来弥合现有 DNN 验证方法之间的差距。虽然使用自编码器的分类模型与图像分类 NN 的工作方式大致相似，但回归模型的功能明显不同。我们引入了两种针对基于自编码器的回归模型的鲁棒性评估指标定义，具体而言即百分比鲁棒性与非鲁棒性等级。我们还修改了现有的 Imagestar 方法，调整变量以顾及回归网络特定的输入类型。该方法作为 NNV 的扩展实现，随后应用于一个数据集并进行了评估，并使用同一数据集给出了案例研究实验。据作者所知，这篇进展中工作论文首次展示了基于自编码器的 NN 的可达性分析可能性。
引用
@article{arxiv.2207.06759,
title = {Work In Progress: Safety and Robustness Verification of Autoencoder-Based Regression Models using the NNV Tool},
author = {Neelanjana Pal and Taylor T Johnson},
journal= {arXiv preprint arXiv:2207.06759},
year = {2022}
}
备注
In Proceedings SNR 2021, arXiv:2207.04391