中文

从脆弱数据主体到脆弱化数据实践:论AI分析平台化生活中的保护悖论

计算机与社会 2026-04-20 v1 人工智能 计算机视觉与模式识别 人机交互

摘要

本文追踪一种从将脆弱性理解为数据主体的静态、本质化属性,转向通过数据实践主动性地被赋予脆弱性这一概念性转变。不同于关注缺失或反数据的数据主体的自省伦理框架,本文聚焦于平台化生活所固有的资源丰富性——即数据点近乎不断的已有状态,转而将伦理挑战从研究者对这一既有大量数据的操作选择上提出。我们认为,数据科学的伦理完整性不仅取决于研究对象是谁,更取决于技术管道如何将“脆弱”个体转化为其脆弱性可被进一步不稳定化的数据主体。我们通过一次AI for Social Good(AI4SG)案例来阐释这一论点:一位记者请求使用计算机视觉对货币化YouTube‘家庭vlog’中儿童出现进行量化,以支持监管性倡导。这一案例揭示了一种“保护悖论”:数据驱动的保护性努力如何不经意地引入新的计算暴露形式、简化主义以及数据抽取。我们以此请求为出发点,对AI管道进行方法论解构,展示如何通过细粒度技术决策来构成伦理。我们贡献的自省伦理方案将这些见解转化为一套关于平台化数据主体研究伦理的自省路线图。该方案围绕四个关键节点组织——数据集设计、操作化、推断与dissemination——识别在这些决策点上,良好意图的工作如何滑入新的抽取或暴露。对于每一个决策点,该方案都提供了具体提示,以导航四个跨越性脆弱化因素:暴露、货币化、叙事固化以及算法优化。

关键词

引用

@article{arxiv.2604.15990,
  title  = {From Vulnerable Data Subjects to Vulnerabilizing Data Practices: Navigating the Protection Paradox in AI-Based Analyses of Platformized Lives},
  author = {Delfina S. Martinez Pandiani and Ella Streefkerk and Laurens Naudts and Paula Helm},
  journal= {arXiv preprint arXiv:2604.15990},
  year   = {2026}
}

备注

In The 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26), June 25-28, 2026, Montreal, QC, Canada. ACM, New York, NY, USA, 23 pages