如何计数 AI：AI 代理的 individuation 与责任

很快，数以百万计的 AI 代理将在经济中繁衍，自主采取数十亿项行动。不可避免地，事情会出错。人们会被欺诈、受伤，甚至被杀害。法律必须在某种程度上来规范即将到来的浪潮。但当 AI 造成伤害时，第一个需要回答的问题——在任何人被追究之前，就是：哪个 AI 造了这个事？识别 AI 的过程异常困难。AI lacks bodies（没有身体）、可以随意复制、分裂、合并、聚群或消失。即便是今天，一个“单一”AI代理也常常是基于多个模型的多个实例的集合。随着 AI 能力的提升，复杂度只会进一步增加。本文是首次全面诊断了识别 AI 这一法律问题。需要两种身份认定：“薄”身份与“厚”身份。薄身份认定将每一项 AI 行动与某位人类主体联系起来，这对于持有制造和使用 AI 代理的人负责人至关重要。厚身份认定区分 AI 代理本身——将数以百万计的 AI 实体划分为具有稳定、连贯目标的离散、持久单元，这对于防止主体-代理问题导致人类无法完美控制 AI 至关重要。本文还提出了解决方案：“算法公司”（Algorithmic Corporation，简称 A-corp）——一种法律虚构实体，可拥有财产、签订合同并以其名义提起诉讼。由人类拥有但由 AI 运行的 A-corp 通过将 AI 行动与人类所有者联系起来来解决薄身份问题，并通过自组织实现厚身份认定。A-corp 拥有 AI 为其目标所需的资源——包括计算资源——，从而赋予 AI 经理强大的动机，只有与目标一致的 AI 才能获得控制权。在均衡条件下，激励与选择机制迫使 A-corp 自组织为具有连贯目标的持久、法律可理解的实体，使其对法律激励做出理性反应。