中文

权力会回归云端吗?从神圣权威到生成式AI权威

计算机与社会 2025-12-04 v1 人工智能

摘要

生成式AI系统如今为数亿用户的中介新闻推送、搜索排名和创意内容,使少数私营公司成为事实上的真相仲裁者。本文借鉴比较历史视角,将宗教知识控制的里程碑事件——伽利略事件——与当代大型科技公司的内容审核进行对照。我们整合福柯的权力/知识论、韦伯的权威类型(扩展至理性-技术模式和新兴的代理-技术模式)以及弗洛里迪的数据主义,分析五个反复出现的维度:规训权力、权威模式、数据多元主义、信任与依赖、以及抵抗路径。主要来源(宗教审判记录;平台透明度报告)和关于AI信任的最新实证研究提供了证据基础。研究发现存在强烈的结构性趋同:高度集中的把关、借超验原则提出的合法性主张,以及对边缘声音的系统性排斥。差异体现在时间速度、全球尺度,以及公众对AI系统的依赖与信任之间的差距不断扩大。伦理挑战围绕算法不透明性、语言不平等、偏差反馈循环和合成虚假信息而聚集。我们提出一个四支柱治理蓝图:(1) 强制性的国际模型注册表,附带版本化策略日志;(2) 代表配额和区域观测站,以去中心化英语霸权;(3) 大规模批判性AI素养倡议;(4) 对社区主导的数据信托的公私支持。这些措施共同旨在缩小信任-依赖鸿沟,防止生成式AI固化二十一世纪的数字正统。

关键词

引用

@article{arxiv.2512.03076,
  title  = {Will Power Return to the Clouds? From Divine Authority to GenAI Authority},
  author = {Mohammad Saleh Torkestani and Taha Mansouri},
  journal= {arXiv preprint arXiv:2512.03076},
  year   = {2025}
}