中文

对多元高斯条件推断的无差别破坏

机器学习 2024-11-22 v1 密码学与安全 机器学习 应用统计

摘要

多元高斯分布支撑着众多运筹学、决策分析和机器学习模型(例如,贝叶斯优化、高斯影响图和变分自编码器)。然而,尽管对抗性机器学习(AML)近期取得了进展,但在存在对手的情况下高斯模型的推断研究明显不足。因此,我们考虑一个自私的攻击者,他希望通过破坏一组证据变量来干扰决策者的条件推断及后续行动。为避免被发现,攻击者还希望攻击看起来合理,其合理性由被破坏证据的密度决定。我们考虑了白盒和灰盒设置,其中攻击者分别对决策者潜在的多元高斯分布拥有完全和不完全的知识。我们展示了所选实例可归结为二次规划和随机二次规划,并推导了结构性质以指导求解方法。我们在三个示例中评估了这些攻击的影响和有效性,包括房地产评估、利率估计和信号处理。每个示例都利用了不同的底层模型,从而凸显了攻击的广泛适用性。通过这些应用,我们还并置了白盒和灰盒攻击的行为,以理解不确定性和结构如何影响攻击者行为。

关键词

引用

@article{arxiv.2411.14351,
  title  = {Indiscriminate Disruption of Conditional Inference on Multivariate Gaussians},
  author = {William N. Caballero and Matthew LaRosa and Alexander Fisher and Vahid Tarokh},
  journal= {arXiv preprint arXiv:2411.14351},
  year   = {2024}
}

备注

30 pages, 6 figures; 4 tables