防御回归学习器免受投毒攻击
机器学习
2020-08-24 v1 机器学习
摘要
回归模型广泛用于对工程应用到金融预测的各个领域，易受针对性恶意攻击（如训练数据投毒），对手可通过其操纵预测。先前试图解决此问题的工作依赖于关于攻击/攻击者性质的假设或高估了学习器的知识，使其不实用。我们引入一种基于局部本征维数（LID）的新度量称为 N-LID，它度量给定数据点的 LID 相对于其邻居的局部偏差。然后我们展示 N-LID 可区分投毒样本与正常样本，并提出一种不假设攻击者的基于 N-LID 的防御方法。通过对基准数据集的广泛数值实验，我们表明所提防御机制在预测精度（相比未防御的岭模型 MSE 降低高达 76%）和运行时间上优于 SOTA 防御。
引用
@article{arxiv.2008.09279,
title = {Defending Regression Learners Against Poisoning Attacks},
author = {Sandamal Weerasinghe and Sarah M. Erfani and Tansu Alpcan and Christopher Leckie and Justin Kopacz},
journal= {arXiv preprint arXiv:2008.09279},
year = {2020}
}
备注
13 pages