监控AI流水线
计算机视觉与模式识别
2023-10-19 v2 计算机与社会
摘要
越来越多人认为，AI研究尤其是计算机视觉，正在助长大规模监控。然而，从计算机视觉研究到监控的直接路径一直模糊不清且难以评估。在此，我们通过分析三十年的计算机视觉研究论文与下游专利(逾40,000份文档)揭示了监控AI流水线。我们发现，绝大多数带标注的计算机视觉论文和专利自述其技术能够提取关于人类的数据。此外，这些技术中的大多数特别能够提取关于人体及身体部位的数据。我们呈现了量化与丰富的定性分析，以阐明这些人数据提取行为。研究该流水线的根源，我们发现高产计算机视觉研究的机构——即精英大学与“科技巨头”企业——随后被数千项监控专利引用。进一步，我们发现了与“仅少数 rogue 实体助长监控”叙事相悖的一致证据。相反，我们揭露了全领域的常态：当一个机构、国家或子领域发表了带有下游专利的计算机视觉论文时，这些论文中的大多数被用于监控专利。总计，我们发现带有下游监控专利的论文数量在1990年代至2010年代间增长了五倍以上，计算机视觉研究现已被用于逾11,000项监控专利。最后，除了我们在计算机视觉论文与专利中记录的高水平监控外，我们还发掘了普遍存在的、使用模糊语言掩盖监控程度之文档模式。我们的分析揭示了计算机视觉研究推动监控持续扩张的流水线。
引用
@article{arxiv.2309.15084,
title = {The Surveillance AI Pipeline},
author = {Pratyusha Ria Kalluri and William Agnew and Myra Cheng and Kentrell Owens and Luca Soldaini and Abeba Birhane},
journal= {arXiv preprint arXiv:2309.15084},
year = {2023}
}