AI 数据投毒攻击：操纵围棋游戏 AI
密码学与安全
2020-07-31 v3
摘要
随着 AI 在各领域的广泛使用，AI 安全问题愈发重要。AI 数据投毒攻击将是继对抗样本之后对 AI 安全最具威胁的手段。随着 AI 应用的在线持续更新，攻击者可以上传数据污染模型以实现某种恶意目的。近期关于 AI 数据投毒攻击的研究多脱离实际并使用自建实验环境，因而无法像对抗样本攻击那样贴近现实。本文的首要贡献是针对上述具研究局限的问题提供解决方案与突破，旨在针对真实业务的数据投毒攻击，即：对真实围棋 AI 的数据投毒攻击。我们在真实围棋 AI 中植入木马病毒以操纵该 AI 的行为。我们首次成功操纵复杂 AI，并提供了可靠的 AI 数据投毒攻击验证方法。本文构建木马的方法可扩展至内容推荐、文本翻译和智能对话等其他领域的更实用算法。
引用
@article{arxiv.2007.11820,
title = {AI Data poisoning attack: Manipulating game AI of Go},
author = {Junli Shen and Maocai Xia},
journal= {arXiv preprint arXiv:2007.11820},
year = {2020}
}
备注
Fixed some inappropriate information from previous versions