利用认证与溯源防止机器学习投毒攻击
密码学与安全
2021-05-24 v1
摘要
近期研究已成功展示新型数据投毒攻击。为解决该问题，一些研究者提出了采用机器学习算法识别此类攻击的离线与在线数据投毒检测防御。在本工作中，我们采取一种不同的防止数据投毒攻击的方法，其依赖于基于密码学的认证与溯源，以确保用于训练机器学习模型的数据完整性。同一方法也用于防止软件投毒与模型投毒攻击。软件投毒攻击恶意篡改用于训练模型的一个或多个软件组件。模型训练完成后，也可抵御模型投毒攻击——此类攻击试图通过修改底层参数或结构来改变模型预测。最后，评估集或测试集亦可被保护，以在其遭第二次数据投毒攻击篡改时提供证据。为实现这些目标，我们提出 VAMP，其扩展了先前提出的 AMP 系统（旨在保护图像、视频文件或音频剪辑等媒体对象）至机器学习场景。我们首先给出安全机器学习系统对认证与溯源的需求。接着，我们展示 VAMP 的清单如何满足这些需求，以保护机器学习系统的数据集、软件组件与模型。
引用
@article{arxiv.2105.10051,
title = {Preventing Machine Learning Poisoning Attacks Using Authentication and Provenance},
author = {Jack W. Stokes and Paul England and Kevin Kane},
journal= {arXiv preprint arXiv:2105.10051},
year = {2021}
}