AI红队测试中的人为因素：来自社会与协作计算的视角
人机交互
2024-09-12 v2 人工智能
计算机与社会
摘要
通用人工智能的快速发展引发了人们对“红队测试”的浓厚兴趣，这是一种源自军事和网络安全应用的对抗性测试实践。AI红队测试引发了许多关于人为因素的问题，例如红队测试人员如何选择、测试执行中的偏见和盲点，以及有害内容对红队测试人员的心理影响。越来越多的人机交互（HCI）和计算机支持的协同工作（CSCW）文献研究了相关实践——包括数据标注、内容审核和算法审计。然而，很少有（如果有的话）研究调查红队测试本身。未来的研究可能会探索从公平性到心理健康以及其他潜在危害领域等主题。我们旨在促进一个能够以创造力、创新和深思熟虑开始应对这些挑战的研究人员和实践者社区。
引用
@article{arxiv.2407.07786,
title = {The Human Factor in AI Red Teaming: Perspectives from Social and Collaborative Computing},
author = {Alice Qian Zhang and Ryland Shaw and Jacy Reese Anthis and Ashlee Milton and Emily Tseng and Jina Suh and Lama Ahmad and Ram Shankar Siva Kumar and Julian Posada and Benjamin Shestakofsky and Sarah T. Roberts and Mary L. Gray},
journal= {arXiv preprint arXiv:2407.07786},
year = {2024}
}
备注
Updated with camera-ready version