FANNet：神经网络噪声容忍性、训练偏置与输入敏感性的形式化分析
机器学习
2020-05-18 v2 机器学习
摘要
随着网络架构与训练方法的不断改进，神经网络(NNs)正日益部署于现实世界的机器学习系统中。然而，尽管这些NNs在“已知输入”上表现优异，它们在“未见输入”上却可能荒谬地失效，尤其是当这些实时输入偏离训练数据集分布或含有特定类型的输入噪声时。这表明NNs的噪声容忍性较低，这是近期对抗攻击增加的主要原因。这是一个严重的问题，特别是对于安全关键应用，其中不准确的结果会导致可怕后果。我们提出一种新方法，利用模型检测对不同输入噪声范围下的神经网络进行形式化分析(FANNet)。我们的方法使我们能够严格分析NNs的噪声容忍性、其输入节点敏感性，以及训练偏置对其性能（例如分类准确率）的影响。为评估，我们使用为白血病分类训练的的前馈全连接NN架构。我们的实验结果显示给定训练网络的噪声容忍性，识别出最敏感的输入节点，并确认了可用训练数据集的偏置性。
引用
@article{arxiv.1912.01978,
title = {FANNet: Formal Analysis of Noise Tolerance, Training Bias and Input Sensitivity in Neural Networks},
author = {Mahum Naseer and Mishal Fatima Minhas and Faiq Khalid and Muhammad Abdullah Hanif and Osman Hasan and Muhammad Shafique},
journal= {arXiv preprint arXiv:1912.01978},
year = {2020}
}
备注
To appear at the 23rd Design, Automation and Test in Europe (DATE 2020). Grenoble, France