自动权威：权力与人工智能

随着人工智能的快速发展和历史上一些最强大公司的崛起与削弱的新自由主义国家相遇，人们越来越受到通过自动化系统行使的权力的影响。机器学习及相关计算技术现在支撑着重要的政府服务。它们在新的算法市场中连接消费者和生产者。它们决定了我们如何了解从如何投票到在哪里接种疫苗的一切，以及谁的言论被放大、减少或限制。基于大型语言模型（LLMs）的新一波产品将进一步改变我们的经济和政治生活。自动权威是用于通过决定我们可以知道什么、可以拥有什么以及我们的选择是什么来对我们行使权力的自动化计算系统。为了应对它们的崛起，研究人工智能及相关技术社会影响的学者主张将注意力从如何使人工智能系统有益或公平转向对这些新权力关系的批判性分析。但权力无处不在，并不一定是坏事。我们应该基于什么理由反对新的或强化的权力关系，以及可以做些什么来证明它们的合理性？本文介绍了用于提出这些问题的哲学材料，并提供了初步答案。它首先明确了权力的概念，重点关注某些主体塑造他人生活的能力。然后探讨了人工智能如何促成和强化了如此理解的权力的行使，并概述了权力的三个问题以及解决这些问题的三种方法。它特别强调，证明权力的合理性不仅需要满足实质性的正当性标准；还必须满足适当权威和程序合法性的标准。我们不仅需要知道权力可以用于什么，还需要知道如何行使权力，以及由谁行使。