Lethean 攻击：一种在线数据投毒技术
密码学与安全
2020-11-26 v1 机器学习
摘要
数据投毒是一种对抗场景，攻击者可向在线模型输入精心构造的样本序列以破坏学习过程。我们引入 Lethean 攻击，一种诱导在线模型灾难性遗忘的新颖数据投毒技术。我们在测试时训练（Test-Time Training）这一旨在分布偏移下实现泛化的现代在线学习框架中应用该攻击。我们给出理论依据，并与自然诱导遗忘的其他样本序列进行实证比较。我们的结果表明，利用 lethean 攻击， adversary 可使用短样本序列将测试时训练模型退化为抛硬币般的准确率表现。
引用
@article{arxiv.2011.12355,
title = {Lethean Attack: An Online Data Poisoning Technique},
author = {Eyal Perry},
journal= {arXiv preprint arXiv:2011.12355},
year = {2020}
}