AART：面向新型 LLM 驱动应用的多样化数据生成 AI 辅助红队测试
软件工程
2023-12-01 v2 人工智能
计算与语言
摘要
大语言模型（LLMs）的对抗测试对其安全与负责任部署至关重要。我们引入一种用于自动生成对抗评估数据集以测试新下游应用上 LLM 生成内容安全性的新方法。我们称之为 AI 辅助红队测试（AART）——一种对当前人工红队测试工作的自动化替代。AART 提供可复用且可定制配方的数据生成与增强流水线，显著减少人力并能使对抗测试更早集成入新产品开发。AART 生成具有高效对抗测试所需内容特征高多样性的评估数据集（例如敏感与有害概念，特定于广泛文化与地理区域及应用情景）。数据生成由 AI 辅助配方引导，以在应用上下文中定义、界定并优先化多样性。这汇入一个结构化的 LLM 生成过程，可扩展评估优先级。与某些最先进工具相比，AART 在概念覆盖与数据质量方面展现出有前景的结果。
引用
@article{arxiv.2311.08592,
title = {AART: AI-Assisted Red-Teaming with Diverse Data Generation for New LLM-powered Applications},
author = {Bhaktipriya Radharapu and Kevin Robinson and Lora Aroyo and Preethi Lahoti},
journal= {arXiv preprint arXiv:2311.08592},
year = {2023}
}