人工智能、理性化与公共部门控制的局限：以税收政策优化为例

人工智能（AI）在公共部门的使用最好被理解为长期存在的理性化和官僚化过程的延续和强化。借鉴韦伯的理论，我们认为这些过程的核心是用工具理性（即实现任何给定政策目标的最可计算和最高效的方式）取代传统。在本文中，我们展示了公众和学术界对AI系统的许多批评如何源于韦伯式理性化核心的众所周知的紧张关系。为了说明这一点，我们引入了一个思想实验，其中AI系统被用于优化税收政策，以推进一个特定的规范性目标——减少经济不平等。我们的分析表明，构建一个促进社会和经济平等的机器式税收系统是可能的。然而，它也突显了AI驱动的政策优化（i）以排除其他竞争性政治价值为代价，（ii）凌驾于公民对彼此的非工具性义务感之上，以及（iii）削弱了人类作为自我决定存在的概念。当代旨在确保AI系统合法、合乎道德和安全的学术研究和倡导，建立并强化了支撑理性化过程的核心假设，包括现代观念，即科学可以扫除压迫性制度，并用理性规则取而代之，从而将人类从道德不公中拯救出来。这过于乐观了。科学只能提供手段，不能决定目的。尽管如此，AI在公共部门的使用也可以惠及自由民主制度的机构和过程。最重要的是，AI驱动的政策优化要求规范性目标被明确化和形式化，从而使它们受到公众监督和辩论。