人机治理 (HAIG)：一种信任-效用方法

本文介绍了人机治理 (HAIG) 框架，通过突出人类与 AI 行动者之间的关系动态，而非仅仅将 AI 系统视为治理对象，为 AI 治理 (AIG) 领域做出了贡献。当前的分类框架（例如，人在回路模型）未能充分捕捉 AI 系统如何从工具演变为伙伴，特别是当基础模型展现出涌现能力且多智能体系统表现出自主目标设定行为时。随着系统跨情境部署，能动性以复杂模式重新分配，这些模式更适合表示为连续谱上的位置，而非离散类别。HAIG 框架在三个层面上运作：维度（决策权、过程自主性和问责配置）、连续谱（沿每个维度的连续位置谱）和阈值（沿连续谱的临界点，在这些点上治理要求发生质变）。该框架的维度架构是层级无关的，适用于从个体部署决策、组织治理到行业比较以及国家和国际监管设计。与将治理主要视为对 AI 部署约束的基于风险或基于原则的方法不同，HAIG 采用信任-效用导向——将治理重新定义为人类-AI 协作能够实现其潜力的条件，根据特定的关系情境而非预定类别来校准监督。医疗保健和欧洲监管的案例研究展示了 HAIG 如何补充现有框架，同时为在治理挑战出现之前就预见它们的自适应监管设计奠定基础。