组织结构决定一切：关于生成式人工智能红队实践中的组织动态的定性研究
人机交互
2025-08-22 v2
摘要
生成式人工智能（GenAI）的快速融合到各个领域凸显了进行红队测试以主动识别和缓解相关风险的关键需求。虽然先前的研究主要关注技术方面，但本文突出了影响现实环境下红队测试有效性的组织因素。通过对来自不同组织的17位红队成员进行半结构化访谈的定性分析，我们发现诸如边缘化弱势红队成员、AI风险对弱势用户不可见直到部署后以及缺乏以用户为中心的红队方法等挑战。这些问题往往源于组织动态，包括组织抵抗、组织惰性和组织中等主义。为缓解这些动态，我们讨论了用户研究对红队测试的含义以及将红队测试嵌入GenAI系统整个开发周期的重要性。
引用
@article{arxiv.2508.12504,
title = {Organization Matters: A Qualitative Study of Organizational Dynamics in Red Teaming Practices for Generative AI},
author = {Bixuan Ren and EunJeong Cheon and Jianghui Li},
journal= {arXiv preprint arXiv:2508.12504},
year = {2025}
}