与谁对齐？人工智能系统的直接目标与社会目标
计算机与社会
2022-05-10 v1 人工智能
摘要
随着人工智能（AI）变得愈发强大且普及，AI 对齐问题——如何确保 AI 系统追求我们希望其追求的目标——已引起越来越多的关注。本文根据我们所考虑的目标归属于谁，区分了两类对齐问题，并分析了各自所需的不同解决方案。直接对齐问题考量一个 AI 系统是否实现了操作该系统的实体的目标。相比之下，社会对齐问题考量 AI 系统对更大群体或更广泛社会的影响，尤其还考量该系统是否对他人施加了外部性。直接对齐问题的解决方案围绕更稳健的实现展开，而社会对齐问题通常因个体与群体层面目标之间的冲突而产生，从而提升了 AI 治理在调停此类冲突中的重要地位。解决社会对齐问题既需要对其开发者和操作者强制执行现有规范，也需要设计直接适用于 AI 系统的新规范。
引用
@article{arxiv.2205.04279,
title = {Aligned with Whom? Direct and social goals for AI systems},
author = {Anton Korinek and Avital Balwit},
journal= {arXiv preprint arXiv:2205.04279},
year = {2022}
}
备注
Prepared for the Oxford Handbook of AI Governance (23 pages, 2 figures)