增强解毒剂：改进针对投毒攻击的点态认证
机器学习
2024-03-19 v2 密码学与安全
摘要
投毒攻击可通过微小改动训练语料而过度影响模型行为。尽管针对特定投毒攻击的防御确实存在，但它们通常无法提供任何保证，从而可能被新型攻击反制。相比之下，通过考察最坏情况行为，认证防御(Certified Defences)能够针对修改有限数量训练样本的对抗攻击（称为点态认证）提供样本鲁棒性的保证。我们通过利用差分隐私与采样高斯机制(Sampled Gaussian Mechanism)，确保每个测试实例的预测对有限数量的投毒样本保持不变，从而实现这一点。在此过程中，我们的模型提供的对抗鲁棒性保证规模是先前认证的两倍以上。
引用
@article{arxiv.2308.07553,
title = {Enhancing the Antidote: Improved Pointwise Certifications against Poisoning Attacks},
author = {Shijie Liu and Andrew C. Cullen and Paul Montague and Sarah M. Erfani and Benjamin I. P. Rubinstein},
journal= {arXiv preprint arXiv:2308.07553},
year = {2024}
}