结构因果模型揭示线性规划建模中的混杂偏倚
机器学习
2023-11-08 v6 密码学与安全
摘要
近年来对抗攻击尤其是深度神经网络上的对抗攻击研究广泛。本文旨在提出并探究该现象是否更具一般性，即经典分类任务之外的对抗式攻击。具体地，我们研究构成现代 AI 研究基础的优化问题。为此，我们考虑优化器的基本类即线性规划（LPs）。在将对抗样本形式与 LPs 进行朴素映射的初步尝试中，我们迅速识别出为使 LPs 的合理对抗样本概念成立所缺失的关键要素。有趣的是，Pearl 因果性概念的形式体系可正确描述 LPs 的对抗式样本。我们特征性地展示了结构因果模型（SCM）对后续 LP 优化的直接影响，其最终暴露了 LPs 中（由上述 SCM 继承的）混杂概念，从而允许对抗式攻击。我们给出了形式化的一般性证明，以及基于 SCM 的三个组合问题（即线性分配、最短路径和一个能源系统现实问题）此类引人注目的 LP 参数化的存在性证明。
引用
@article{arxiv.2105.12697,
title = {Structural Causal Models Reveal Confounder Bias in Linear Program Modelling},
author = {Matej Zečević and Devendra Singh Dhami and Kristian Kersting},
journal= {arXiv preprint arXiv:2105.12697},
year = {2023}
}
备注
Published at the 15th Asian Conference on Machine Learning (ACML 2023) Journal Track. Main paper: 19 pages, References: 2 pages, Supplement: .5 page. Main paper: 3 figures, 3 tables, Supplement: 1 table