深度学习模型中的安全与隐私挑战

如今，深度学习模型已在从自动驾驶到医疗诊断的多个领域取得巨大成功。这些模型通过为早先极难解决的复杂问题提供优异方案，拓展了人工智能的能力。尽管在各领域取得了前所未有的成功，但经研究发现，深度学习模型可能遭受多种攻击，危及深度神经网络模型的安全性与数据隐私。深度学习模型在其生命周期的不同阶段可能遭受各类攻击。在测试阶段，攻击者可通过模型提取攻击、模型反演攻击和对抗攻击等不同类型的攻击利用漏洞。模型提取攻击旨在对训练好的深度学习模型进行逆向工程，主要目标是揭示其架构与参数。模型反演攻击旨在损害深度学习模型所用数据的隐私。这些攻击通过从模型预测中获取敏感训练数据来破坏模型的机密性。通过分析模型响应，攻击者意图重建敏感信息。由此，模型的数据隐私遭到损害。对抗攻击主要施用于计算机视觉模型，旨在通过恶意测试数据使模型自信地做出错误预测。这类攻击微妙地改动输入数据，使其看似正常却误导深度学习模型做出错误决策。此类攻击可发生于模型评估与训练阶段。数据投毒攻击向训练集添加有害数据，扰乱学习过程并降低深度学习模型的可靠性。