桥接真实图像与合成图像之间的差距:用于自动驾驶系统测试
软件工程
2024-08-27 v1 人工智能
摘要
自动驾驶系统 (ADS) 的深度神经网络 (DNN) 通常在真实图像上进行训练,并使用合成模拟器图像进行测试。这种做法会导致训练和测试数据集分布不一致,可能导致测试准确率异常下降。为解决此问题,文献中建议对测试数据集应用域到域的翻译器,以将其拉近与训练数据集的分布。然而,对测试图像进行翻译可能不可预测地影响测试过程的可靠性、有效性和效率。因此,本文在 ADS 语境下研究以下问题:翻译器是否会降低用于 ADS-DNN 测试图像的有效性及其揭示 ADS-DNN 故障的能力?翻译器是否会导致模拟测试中的时间开销过大?为解决这些问题,我们考虑了三种域到域翻译器:来自文献的 CycleGAN 和神经风格迁移,以及我们提出的 SAEVAE。我们的结果表明,对于两种关键 ADS 任务(车道保持和目标检测),翻译器显著缩小了由于训练和测试数据分布不一致导致的 ADS 测试准确率下降的差距,其中 SAEVAE 的性能优于另外两种翻译器。我们展示了基于最近用于测试深度学习系统的多样性、覆盖性和故障揭示能力指标,翻译器并未损害测试数据的多样性和覆盖性,也不会导致在 ADS-DNN 中揭示更多的故障。进一步地,在所考虑的翻译器中,SAEVAE 在模拟时间上的开销可忽略不计,并且可以有效地集成到基于模拟的测试中。最后,我们表明翻译器增加了离线测试与模拟测试结果之间的相关性,这有助于降低基于模拟的测试成本。
引用
@article{arxiv.2408.13950,
title = {Bridging the Gap between Real-world and Synthetic Images for Testing Autonomous Driving Systems},
author = {Mohammad Hossein Amini and Shiva Nejati},
journal= {arXiv preprint arXiv:2408.13950},
year = {2024}
}
备注
Accepted for publication by the International Conference on Automated Software Engineering (ASE 2024)