对抗环境下神经网络的容错性

人工智能系统需要对信任的不同支柱进行透彻评估，即公平性、可解释性、数据与模型隐私、可靠性（安全性）以及针对对抗攻击的鲁棒性。尽管这些研究问题已被孤立地广泛研究，但缺乏对信任不同支柱之间权衡的理解。为此，针对深度神经网络的具体情形，通过在安全和隐私威胁模型下的两种对抗设置，评估了容错性、隐私与对抗鲁棒性之间的权衡。具体而言，本工作通过向输入添加噪声（对抗鲁棒性）和向梯度添加噪声（差分隐私）来研究神经网络容错性对训练模型的影响。虽然用施加于输入、梯度或权重的噪声训练模型可增强容错性，但观察到对抗鲁棒性与容错性相互矛盾。另一方面，($\epsilon,\delta$)-差分隐私模型增强了容错性，以泛化误差衡量，其理论上界为 $e^{\epsilon} - 1 + \delta$。这种对不同信任要素之间权衡的新研究对于训练同时满足不同信任支柱要求的模型至关重要。