基于可解释人工智能的深度神经网络高效三重模块冗余
机器学习
2025-07-15 v1 人工智能
摘要
深度神经网络（Deep Neural Networks, DNNs）在安全关键领域广泛应用，确保其可靠性至关重要。三重模块冗余（Triple Modular Redundancy, TMR）是一种有效的技术，可在位翻转故障存在的情况下提高DNNs的可靠性。为了处理TMR的显著开销，该技术仅应用于对模型输出贡献最大的参数和组件。因此，选择准则的准确性是TMR效率的关键。本文提出了一种利用可解释人工智能（Explainable Artificial Intelligence, XAI）方法提高DNNs可靠性的有效TMR方法。由于XAI能够提供有关网络中 individual 神经元和权重重要性的有价值见解，因此可作为TMR技术的选择度量标准。该方法利用称为层次相关性传播（Layer-wise Relevance Propagation, LRP）的低成本、基于梯度的XAI技术来计算DNN参数的重要性得分。这些得分随后用于提高模型的可靠性，其中最关键的权重受到TMR的保护。该方法在两个DNN模型（VGG16和AlexNet）上进行了评估，分别使用MNIST和CIFAR-10数据集。结果表明，该方法在位错误率为10^-4时能够保护AlexNet模型，实现超过60%的可靠性改进，同时保持与最先进方法相同的开销。
引用
@article{arxiv.2507.08829,
title = {Efficient Triple Modular Redundancy for Reliability Enhancement of DNNs Using Explainable AI},
author = {Kimia Soroush and Nastaran Shirazi and Mohsen Raji},
journal= {arXiv preprint arXiv:2507.08829},
year = {2025}
}