AGI、政府与自由社会

本文探讨了通用人工智能（AGI）如何可能从根本上重塑维系自由社会的国家能力与个人自由之间的微妙平衡。基于 Acemoglu 和 Robinson 的“狭窄走廊”框架，我们论证了 AGI 带来了将社会推向两个方向的独特风险：一是通过强化的国家监控与控制走向“专制利维坦”，二是由于相对于被 AGI 赋能的非国家行为体，国家合法性遭到侵蚀而走向“缺席利维坦”。借鉴公共行政理论和 AI 能力的最新进展，我们分析了这些动态如何通过三个关键渠道展开：机构内部自由裁量决策的自动化、官僚结构向系统级架构的演进，以及民主反馈机制的转变。我们的分析揭示了可能破坏自由制度的具体失效模式。通过 AGI 增强的国家能力可能实现前所未有的监控与控制，从而可能使威权做法根深蒂固。相反，AGI 能力向非国家行为体的快速扩散可能破坏国家的合法性与可治理性。我们考察了这些风险如何在个体官僚决策的微观层面、组织结构的中观层面以及民主进程的宏观层面产生不同的表现。为了维护自由的狭窄走廊，我们提出了一个治理框架，强调稳健的技术保障、维持有意义的人类监督的混合制度设计，以及自适应的监管机制。