对抗规避性在线数据操纵攻击的交互式截断防御：一种博弈论方法

随着数据的指数级增长及其对我们生活和决策的关键影响，数据完整性已成为一个重大关注点。恶意数据投毒攻击通过向数据中注入虚假值，可破坏机器学习过程并导致严重后果。为缓解此类攻击，已有研究提出基于距离的防御方法（如截断），但这些方法很容易被白盒攻击者规避。投毒攻击策略的规避性与有效性是同一枚硬币的两面，这使得博弈论成为一种有前景的方法。然而，现有的博弈论模型往往忽略了在线数据投毒攻击的复杂性，在此类攻击中，策略必须适应数据收集的动态过程。在本文中，我们提出了一种交互式博弈论模型，使用截断策略防御在线数据操纵攻击。我们的模型容纳了完整的策略空间，使其适用于强规避性和合谋对手。利用理论物理中的最小作用量原理和 Euler-Lagrange 方程，我们推导了该博弈论过程的分析模型。为了展示其实际用途，我们在本地差分隐私下的隐私保护数据收集系统中提供了一个案例研究，其中采用了非确定性效用函数。从该分析模型中设计了两种策略，即 Tit-for-tat 和 Elastic。我们在真实世界数据集上进行了大量实验，展示了这两种策略的有效性和准确性。