人工智能的人类监督与技术标准化

采用人类监督措施后，可以不同程度和不同方式来调节人工智能（AI）系统决策过程的决策，例如通过设置人类监督者来监督系统，并通过上游方式开发 AI 系统以便实现此类监督。在全球 AI 治理中，人类监督要求体现在多种监管格式中，源于多样化的规范来源。在一方面，它强化了 AI 系统用户的问责（例如，通过要求他们执行 certain 检查）；另一方面，它更好地保护受 AI 决策影响的个人（例如，通过允许他们请求对决策进行审查）。在欧洲语境下，《人工智能法案》对高风险 AI 系统的提供者（以及在某种程度上也对这些系统的专业用户，即部署者）提出了义务，包括通过设计（以及由部署者实施）在 AI 系统生命周期中引入人类监督工具。欧盟立法者因此比过去在“具体化”人类监督法律要求方面走得更远，但并不打算涵盖所有实施细节；它呼吁依据《人工智能法案》第 40 条款，由标准化组织在技术层面具体化这一要求（以及更广泛地具体化第 III 章第 2 节的所有要求）。在这一多层次监管环境中，人类在 AI 决策过程中的角色应受到特别关注。事实上，取决于是法律还是技术标准决定了人类监督的范围，AI 的“监管治理”并不相同：其性质、内容和范围都不同。这一分析正是法律专家所作出（或将要作出）的贡献所在，其核心是对最合适的监管治理——就其制度格式和实质内容而言——的 central 反思，旨在确保人类监督的有效性和 AI 可信赖性。