自愿安全承诺为 AI 发展提供规避过度监管的途径
人工智能
2021-04-09 v1 计算机与社会
多智能体系统
适应与自组织系统
混沌动力学
摘要
随着人工智能 (AI) 及相关技术引入我们的日常生活,对其滥用的恐惧与焦虑以及其创建过程中隐藏的偏见,已导致对监管此类问题的需求。然而,盲目监管一个未被充分理解的创过程,可能会扼杀该过程并减少社会从所生成技术中获得的收益,即便出于最良好的意图。在本文中,从一个捕捉利用 AI 技术争夺领域主导权竞争基本动态的基线模型出发,我们展示了当制裁无条件地施加于冒险即潜在不安全行为时,如何产生社会不期望的结果。作为解决过度监管有害效应的替代方案,我们提出一种自愿承诺方法,其中技术人员可自由选择在独立推进其行动路线与建立约束性协议以安全行事之间做出抉择,并对那些不遵守其承诺者实施制裁。总体而言,这项工作首次揭示了自愿承诺(由同行或机构实施制裁)如何在通过 AI 技术短期争夺领域主导权所有可设想情景中带来社会有益结果。这些结果直接关系到旨在确保道德和负责任 AI 技术发展历程的治理与监管政策制定。
引用
@article{arxiv.2104.03741,
title = {Voluntary safety commitments provide an escape from over-regulation in AI development},
author = {The Anh Han and Tom Lenaerts and Francisco C. Santos and Luis Moniz Pereira},
journal= {arXiv preprint arXiv:2104.03741},
year = {2021}
}