后门攻击对潜空间分布复杂性的影响
机器学习
2020-12-04 v1
摘要
输入空间复杂性决定了模型提取知识并将属性空间转化为函数的能力，该函数通常被视为层间非线性函数的级联。在后门攻击存在时，空间复杂性改变，并诱导类间相似性，直接影响模型训练。结果，模型趋于过拟合输入集。在本研究中，我们提出 D-vine Copula 自编码器（VCAE）作为在后门触发器存在下估计潜空间分布的工具。与变分自编码器（VAE）不同，该方法对分布估计不作假设。可在随机生成的非攻击类别中观察到后门印记。我们在分布的成对表示中展示了干净模型（基线）与受攻击模型（后门）之间的差异。意在阐明由后门特征诱导的输入空间依赖结构变化。最后，我们量化了模型间熵的变化与 Kullback-Leibler 散度。我们的结果发现，由于加入输入的後门触发器，潜空间熵增加约 27%。
引用
@article{arxiv.2012.01931,
title = {Effect of backdoor attacks over the complexity of the latent space distribution},
author = {Henry D. Chacon and Paul Rad},
journal= {arXiv preprint arXiv:2012.01931},
year = {2020}
}