从无标签数据学习的隐患：半监督学习中的后门攻击
密码学与安全
2022-11-02 v1
摘要
半监督机器学习（SSL）因降低了训练ML模型的成本而日益流行。它通过使用极少量（昂贵、经严格检查的）标签数据和大量（廉价、未经检查的）无标签数据来实现这一点。SSL已展现出与常规全监督ML技术相当甚至更优的性能。在本文中，我们表明SSL可从（未经检查的）无标签数据学习这一关键特征使其暴露于强大的投毒攻击之下。事实上，我们认为，由于其对未经检查的无标签数据的依赖，投毒在SSL中比在常规全监督ML中严重得多。具体而言，我们设计了一种针对SSL的后门投毒攻击，可由对目标SSL流程一无所知的弱 adversary 实施。这不同于先前全监督设定下假设具有实际中不现实能力的强 adversary 的投毒攻击。我们表明，仅投毒0.2%的无标签训练数据，我们的攻击就能导致超过80%的测试输入（当它们包含 adversary 的后门触发器时）被误分类。我们的攻击在二十种基准数据集与SSL算法的组合中保持有效，甚至规避了最先进的防御后门攻击的方法。我们的工作对现有SSL算法的实际效用提出了重大担忧。
引用
@article{arxiv.2211.00453,
title = {The Perils of Learning From Unlabeled Data: Backdoor Attacks on Semi-supervised Learning},
author = {Virat Shejwalkar and Lingjuan Lyu and Amir Houmansadr},
journal= {arXiv preprint arXiv:2211.00453},
year = {2022}
}