机器学习模型保护机制间的冲突性交互

如今，基于机器学习（ML）的系统被广泛应用于不同领域。鉴于其流行性，ML 模型已成为各类攻击的目标。因此，安全/隐私与 ML 交叉领域的研究蓬勃发展。此类工作通常聚焦于单一类型的安全/隐私问题及其缓解方法。然而，在实际部署中，一个 ML 模型需要同时防范多种问题。针对某一安全或隐私问题最优的保护机制，可能与旨在解决其他问题的机制产生负面交互。尽管具有实际意义，此类冲突的可能性尚未得到充分研究。我们首先提供一个分析此类“冲突性交互”的框架。随后我们聚焦于系统性分析一种问题的保护机制——模型与数据所有权验证——与另外两类 ML 保护机制（差分隐私训练、以及对模型规避的鲁棒性）之间的两两交互。我们发现若干两两交互会导致冲突。我们探索避免此类冲突的潜在方法。首先，我们研究超参数松弛的影响，发现不存在平衡两种保护机制性能的甜点。其次，我们探究是否可通过修改一类保护机制（所有权验证）使其与受冲突机制（差分隐私训练或对模型规避的鲁棒性）影响的因素解耦来避免冲突。我们表明该方法可避免所有权验证机制与差分隐私训练结合时的冲突，但对模型规避鲁棒性无影响。最后，我们指出了研究其他类型 ML 保护机制间交互的空白。