超越符号控制：AI驱动的劳动力替代的社会后果与真正人类监督架构的迫切需求
计算机与社会
2026-04-02 v1 人工智能
机器人学
摘要
人工智能(AI)和机器人系统对人类劳动的加速替代代表了一种结构性转变，其社会后果远超传统劳动力市场分析的范畴。本论文对这一转变对经济结构、心理福祉、政治稳定、教育、医疗和地缘政治秩序的可能影响进行了系统性的多领域审视。我们识别出这一转型中一个关键且未被充分审视的维度：名义上的人类监督（人类在AI决策中占据正式权威位置）与真正的人类监督（这些人类具备认知访问权限、技术能力和制度权威来有意义地理解、评估和覆盖AI输出）之间的治理缺口。我们认为，这一区别在当前治理框架（包括欧盟AI法案和NIST AI风险管理框架1.0）中基本缺失，代表了已部署AI治理中的主要架构失败模式。劳动力替代的社会后果通过将具有重大影响的AI决策集中于日益狭窄的技术和资本行为者阶层而加剧了这一问题。我们为真正的人类监督系统提出了五项架构要求，并刻画了治理窗口——估计为10-15年——在此期间当前的部署轨迹可能面临路径依赖的社会、经济和制度锁定。
引用
@article{arxiv.2604.00081,
title = {Beyond Symbolic Control: Societal Consequences of AI-Driven Workforce Displacement and the Imperative for Genuine Human Oversight Architectures},
author = {Richard J. Mitchell},
journal= {arXiv preprint arXiv:2604.00081},
year = {2026}
}
备注
23 pages, 23 references