遗漏式欺骗：利用对抗性缺失数据投毒因果结构学习
机器学习
2023-06-01 v1 机器学习
摘要
从观测数据推断因果结构是因果机器学习的关键组成部分；在实践中，这些数据可能未被完全观测。已有工作表明，对完全观测的训练数据进行对抗扰动可用于迫使学习到不准确的因果结构模型（SCM）。然而，当数据可被审计以验证正确性时（例如，由其来源进行密码学签名），这种对抗机制便失效。本文引入了一种新颖的攻击方法，其中 adversary 通过欺骗性地遗漏部分真实训练数据，以期望的方式偏置所学因果结构。针对任意 SCM 的情况，推导了理论可靠的攻击机制，并给出了针对高斯 SCM 的样本高效基于学习的启发式方法。在真实与合成数据集上对这些方法的实验验证表明，对抗性缺失攻击在欺骗流行的因果结构学习算法方面是有效的。
引用
@article{arxiv.2305.20043,
title = {Deception by Omission: Using Adversarial Missingness to Poison Causal Structure Learning},
author = {Deniz Koyuncu and Alex Gittens and Bülent Yener and Moti Yung},
journal= {arXiv preprint arXiv:2305.20043},
year = {2023}
}