面向终身学习的垃圾邮件学习、污染与遗忘研究
机器学习
2021-12-28 v2 人工智能
密码学与安全
摘要
本文在此背景下研究面向安全的机器遗忘。现有若干垃圾邮件检测方法，各自采用不同算法检测不良垃圾邮件。但这些模型易受攻击。许多攻击者通过以各种方式污染训练至模型的数据来利用模型。因此为在此类情形中灵活应对，模型需要能够轻易遗忘被污染数据而无需重新训练。重新训练在大多数情况下不切实际，因为过去已训练给模型海量数据，仅为了移除通常远小于 1% 的少量污染数据就需再次训练。该问题可通过为所有垃圾检测模型开发遗忘框架来解决。本研究将遗忘模块集成到基于朴素贝叶斯、决策树和随机森林算法的垃圾检测模型中。为评估遗忘相对于重新训练的优势，我们从攻击者立场污染并利用三种垃圾检测模型，证明模型的脆弱性。每种情况下均显示出准确率和真正例率的下降，表明污染对模型的影响。随后将遗忘模块集成至模型并遗忘污染数据；在遗忘后测试模型，观察到性能恢复。此外，在所有模型上比较了不同污染数据规模下的遗忘与重新训练时间。分析结果表明，遗忘显著优于重新训练。结果显示遗忘快速、易实现、易用且有效。
引用
@article{arxiv.2111.14609,
title = {An Investigation on Learning, Polluting, and Unlearning the Spam Emails for Lifelong Learning},
author = {Nishchal Parne and Kyathi Puppaala and Nithish Bhupathi and Ripon Patgiri},
journal= {arXiv preprint arXiv:2111.14609},
year = {2021}
}
备注
Submitted to Elsevier for possible publication