防止针对基于AI的威胁情报系统的投毒攻击
社会与信息网络
2018-07-20 v1 密码学与安全
机器学习
摘要
随着AI系统变得无处不在，保障其安全成为一项新兴挑战。多年来，随着在线社交媒体使用的激增和可分析数据的增多，人们构建了AI系统来提取、表示和利用这些信息。然而，从开放来源提取的信息的可信度常常存疑。恶意或错误信息可能导致金钱、声誉和资源的损失；在某些情况下，还会对人类生命构成威胁。在本文中，我们采用集成半监督方法，通过估计Reddit帖子的声誉分数来确定其可信度，以确保AI系统所摄取信息的有效性。我们在网络安全领域展示了我们的方法，安全分析师利用这些系统通过分析散布在社交媒体网站、论坛、博客等上的数据来确定可能的威胁。
引用
@article{arxiv.1807.07418,
title = {Preventing Poisoning Attacks on AI based Threat Intelligence Systems},
author = {Nitika Khurana and Sudip Mittal and Anupam Joshi},
journal= {arXiv preprint arXiv:1807.07418},
year = {2018}
}