Global Clipper: 增强基于 Transformer 的目标检测模型的安全性与可靠性
计算机视觉与模式识别
2024-07-10 v4 人工智能
机器学习
摘要
随着基于 Transformer 的目标检测模型的不断进步，其在自主车辆和航空等关键领域的影响力将进一步扩大。导致推理期间位翻转的软错误显著影响 DNN 的性能，改变预测结果。针对 Transformer 模型，传统的范围限制解决方案对于 CNN 并不适用。本研究引入了 Global Clipper 和 Global Hybrid Clipper 两种有效的缓解策略，专为基于 Transformer 的模型设计。它们显著增强了模型对软错误的抗性，将故障推断降至约 0%。本文还详细介绍了在超过 64 种情景下对两种 Transformer 模型（DINO-DETR 和 Lite-DETR）和两种 CNN 模型（YOLOv3 和 SSD）进行的广泛测试，涉及三个数据集，总计约 330 万次推断，以全面评估模型的鲁棒性。此外，本文探讨了注意力块在 Transformer 中的独特方面及其与 CNN 的操作差异。
引用
@article{arxiv.2406.03229,
title = {Global Clipper: Enhancing Safety and Reliability of Transformer-based Object Detection Models},
author = {Qutub Syed Sha and Michael Paulitsch and Karthik Pattabiraman and Korbinian Hagn and Fabian Oboril and Cornelius Buerkle and Kay-Ulrich Scholl and Gereon Hinz and Alois Knoll},
journal= {arXiv preprint arXiv:2406.03229},
year = {2024}
}
备注
Accepted at IJCAI-AISafety'24 Workshop