CTI4AI：红队测试 AI 模型后的威胁情报生成与共享
密码学与安全
2022-08-17 v1 人工智能
机器学习
摘要
随着基于人工智能（AI）和机器学习（ML）的技术实用性不断增强，对抗性攻击的威胁日益增加。需要对这一生态系统进行红队测试，以识别系统漏洞、潜在威胁，刻画可增强系统鲁棒性的特性，并推动有效防御手段的构建。另一项需求是在模型开发者、用户以及 AI/ML 安全专业人员等不同利益相关方之间共享此类 AI 安全威胁情报。在本文中，我们创建并描述了一个原型系统 CTI4AI，以满足系统性识别并共享 AI/ML 特定漏洞与威胁情报的需求。
引用
@article{arxiv.2208.07476,
title = {CTI4AI: Threat Intelligence Generation and Sharing after Red Teaming AI Models},
author = {Chuyen Nguyen and Caleb Morgan and Sudip Mittal},
journal= {arXiv preprint arXiv:2208.07476},
year = {2022}
}