BlackIce：用于AI安全测试的容器化红队工具包
密码学与安全
2025-10-15 v1 人工智能
摘要
AI模型正逐渐集成到实际系统中，引发对其安全性和可靠性的重大关切。因此，AI红队测试日益成为组织识别和解决漏洞的关键手段，防止其被对手利用。尽管当前已有众多AI红队工具，但实践者面临从快速扩张的工具生态中挑选最合适工具、以及在孤立项目中管理复杂且频繁变更的软件依赖的挑战。鉴于这些挑战以及少数拥有专职AI红队团队的组织数量有限，降低进入门槛并建立标准化环境以简化全面AI模型评估的设置与执行显得尤为重要。灵感来自传统渗透测试中Kali Linux的作用，我们引入BlackIce——一个面向大型语言模型（LLM）和传统机器学习（ML）模型的红队测试开源容器化工具包。BlackIce提供可复现、版本锁定的Docker镜像，集成14个精选的开源工具，用于负责任AI和安全测试，所有工具均通过统一命令行界面访问。通过该配置，启动红队评估与启动容器（本地或云端）同等便捷。此外，镜像的模块化架构支持社区驱动的扩展，用户可轻松适配或扩充工具包以应对新兴威胁。本文描述了容器镜像的架构、工具筛选过程，以及支持的评估类型。
引用
@article{arxiv.2510.11823,
title = {BlackIce: A Containerized Red Teaming Toolkit for AI Security Testing},
author = {Caelin Kaplan and Alexander Warnecke and Neil Archibald},
journal= {arXiv preprint arXiv:2510.11823},
year = {2025}
}