DeepProv：基于推理源起图谱分析的神经网络行为特征化与修复

深度神经网络 (DNN) 正在被部署到自驾汽车、生物识别等高风险应用中。然而，它们在实际环境中的不可预测和不可靠的行为需要新的方法来特征化和确保其可靠性。本文引入 DeepProv，一个新颖且可定制的系统，通过利用其底层图结构来捕获和特征化 DNN 在推理期间的运行时行为。灵感来自系统审计源起图谱，DeepProv 通过推理源起图 (IPG) 来建模 DNN 推理过程中的计算信息流。这些图提供了 DNN 行为的详细结构表示，允许进行经验和结构分析。DeepProv 使用这些见解来系统性地修复 DNN 以实现特定目标，如提高鲁棒性、隐私性或公平性。我们以对抗鲁棒性作为模型修复的目标进行实例化，并进行大量案例研究来评估其有效性。我们的结果表明其在各种分类任务、攻击场景和模型复杂度下都具有有效性和可扩展性。DeepProv 自动在 IPG 中的节点和边层面识别修复动作，显著提高了模型的鲁棒性。特别是，对 DNN 的单一层应用 DeepProv 修复策略可实现约 55% 的对抗准确率提升。此外，DeepProv 与现有防御措施相结合，能够在对抗鲁棒性方面取得显著提升。除了鲁棒性，我们还展示了 DeepProv 作为一种可适应的系统来特征化 DNN 在其他关键领域（如隐私审计和公平性分析）的行为的更广泛潜力。