正则化有助于缓解投毒攻击：基于 Wasserstein 距离的分布鲁棒机器学习
机器学习
2020-01-30 v1 密码学与安全
信号处理
最优化与控制
统计理论
机器学习
统计理论
摘要
我们利用分布鲁棒优化进行机器学习，以缓解数据投毒攻击的影响。我们在原始数据（不含投毒记录）上对所训练模型提供性能保证，方法是在以 Wasserstein 距离定义的、围绕经验分布（从受投毒攻击污染的训练集提取）的邻域上，针对最坏情形分布训练模型。我们通过基于经验样本平均适应度与适应度函数（给定模型参数下关于数据）Lipschitz 常数作为正则化项，寻找最坏情形适应度的上界，从而松弛该分布鲁棒机器学习问题。对于回归模型，我们证明该正则化项等于模型参数的对偶范数。我们使用 Wine Quality 数据集、Boston Housing Market 数据集与 Adult 数据集来展示本文结果。
引用
@article{arxiv.2001.10655,
title = {Regularization Helps with Mitigating Poisoning Attacks: Distributionally-Robust Machine Learning Using the Wasserstein Distance},
author = {Farhad Farokhi},
journal= {arXiv preprint arXiv:2001.10655},
year = {2020}
}