图像识别中易错深度学习框架转换的故障定位
计算机视觉与模式识别
2024-03-27 v5 机器学习
软件工程
系统与控制
系统与控制
摘要
在部署深度神经网络（DNNs）时，开发者常将模型从一种深度学习框架转换至另一种（例如从 TensorFlow 到 PyTorch）。然而，该过程易出错，并可能影响目标模型精度。为确定此类影响的程度，我们对广泛用于图像识别的三种 DNN（MobileNetV2、ResNet101 与 InceptionV3）在四种知名深度学习框架（PyTorch、Keras、TensorFlow（TF）与 TFLite）间的转换执行并简要展示差异分析，其揭示了大量模型崩溃与高达 100% 的输出标签差异。为缓解此类错误，我们提出一种针对易错深度学习框架转换的故障定位与修复新方法，聚焦于预训练图像识别模型。我们的技术包含四个分析阶段：1）转换工具，2）模型参数，3）模型超参数，4）图表示。此外，我们提出多种针对所检测故障的修复策略。我们在 Apache TVM 深度学习编译器之上实现我们的技术，并通过针对 InceptionV3 从 TF 到 TFLite 转换的初步故障定位分析进行测试。我们的方法检测到一个常见 DNN 转换工具中的故障，其在权重中引入了精度误差，降低了模型精度。在我们的故障定位后，我们修复了该问题，将转换误差降至零。
引用
@article{arxiv.2306.06157,
title = {Fault Localization for Buggy Deep Learning Framework Conversions in Image Recognition},
author = {Nikolaos Louloudakis and Perry Gibson and José Cano and Ajitha Rajan},
journal= {arXiv preprint arXiv:2306.06157},
year = {2024}
}
备注
5 pages, 3 figures, 1 table