面向PyTorch模型的大规模故障注入应用——一种提升验证效率的PyTorchFI扩展
人工智能
2023-10-31 v1
摘要
硬件中的瞬态或永久故障会使神经网络的输出出错而无用户可查的错误痕迹，即静默数据错误（SDE）。另一方面，现代神经网络也具有可容忍特定故障的固有冗余。为建立安全论证，有必要区分并量化这两类损坏。为研究硬件（HW）故障对软件（SW）尤其是 NN 模型的影响，近年来已建立了若干故障注入（FI）方法。当前 FI 方法聚焦于注入故障的方法论，但往往忽视大规模 FI 测试的需求，即需在短时间内分析基于特定故障模型的众多故障位置。结果需简洁、可重复且可比较。为满足这些需求并将故障注入作为机器学习开发周期中的默认组件，我们基于 PyTorchFI 引入了名为 PyTorchALFI（PyTorch 应用级故障注入）的新型故障注入框架。PyTorchALFI 提供了一种高效方式来定义随机生成且可复用的故障集合以注入 PyTorch 模型，定义复杂测试场景，增强数据集，并在紧耦合无故障、故障及修改后的 NN 的同时生成测试 KPI。本文详述了测试场景定义、软件架构，以及如何使用该新框架对故障位置和数量进行迭代更改、比较不同模型修改并分析测试结果的若干示例。
引用
@article{arxiv.2310.19449,
title = {Large-Scale Application of Fault Injection into PyTorch Models -- an Extension to PyTorchFI for Validation Efficiency},
author = {Ralf Graafe and Qutub Syed Sha and Florian Geissler and Michael Paulitsch},
journal= {arXiv preprint arXiv:2310.19449},
year = {2023}
}
备注
accepted in DSN2023