隐藏于后门之后：针对生成模型的自混淆攻击
机器学习
2022-01-25 v1 密码学与安全
摘要
近期研究已经展示了在物理世界中破坏机器学习流水线的攻击向量，从扰动到架构组件。基于这项工作，我们阐述了自混淆攻击：攻击者以系统中的预处理模型为目标，并毒化生成模型的训练集，以在推理过程中混淆特定类别。我们的贡献是描述、实现并评估了一种通用的攻击，旨在提高机器学习社区对架构鲁棒性挑战的认识。
引用
@article{arxiv.2201.09774,
title = {Hiding Behind Backdoors: Self-Obfuscation Against Generative Models},
author = {Siddhartha Datta and Nigel Shadbolt},
journal= {arXiv preprint arXiv:2201.09774},
year = {2022}
}