中文

权威递归:教育、战争与话语中的虚构、历史与AI如何强化控制

计算机与社会 2025-08-07 v4

摘要

本文提出'权威递归'的概念,用于理论化AI如何在教育、战争和数字话语领域巩固制度性控制。它识别出一种递归架构,其中算法调节判断,遮蔽问责,并约束道德与认识论主体性。该论文基于批判话语分析和社会技术伦理,考察AI系统如何通过抽象化和反馈normalizing 层级。案例研究包括自动监考、自主武器和内容推荐,分析对象包括奥威尔的《十八四》、Skynet以及《黑镜》,用作探索伦理盲区的工具。该分析整合了公平性、问责性和透明性(FAccT)、关系伦理和数据正义,探讨预测基础设施如何使道德外包和认识论封闭成为可能。通过将AI重新框定为一种交际和制度基础设施,本文呼吁采用以民主拒绝、认识论多样性和结构性问责为中心的治理方法。

关键词

引用

@article{arxiv.2504.09030,
  title  = {Authoritarian Recursions: How Fiction, History, and AI Reinforce Control in Education, Warfare, and Discourse},
  author = {Hasan Oguz},
  journal= {arXiv preprint arXiv:2504.09030},
  year   = {2025}
}

备注

21 pages, 1 figure and 2 table, submitted to MetaScientia HPS