通过负向与正向激励调和人工智能发展
人工智能
2021-06-09 v1 多智能体系统
动力系统
适应与自组织系统
种群与进化
摘要
人工智能（AI）领域正经历高度期望期，给研究、商业乃至政策带来一定程度的焦虑。一种 AI 竞赛叙事进一步加剧了此焦虑，使人误以为自己可能错失良机。无论该叙事真实与否，对此的相信都可能有害，因为部分利益相关者会觉有必要在安全防范上走捷径，或忽视社会后果只为“取胜”。从描述广泛技术竞赛（其中胜者相较他人获得显著收益，如 AI 进展、专利竞赛、医药技术）的基线模型出发，我们在此探究正向（奖励）与负向（惩罚）激励如何有益地影响结果。我们揭示了惩罚既能降低不安全参与者的开发速度、又可能通过过度监管抑制创新的条件。另者，我们表明在若干场景下，奖励遵安全规范者可在确保安全管理选择的同时提升开发速度。而且，在后一类机制中，奖励不像惩罚那样存在过度监管问题。总体而言，我们的发现为在平缓与突进式技术变迁背景下，最适于提升安全合规性的监管行动之性质与类型提供了宝贵洞见。
引用
@article{arxiv.2010.00403,
title = {Mediating Artificial Intelligence Developments through Negative and Positive Incentives},
author = {The Anh Han and Luis Moniz Pereira and Tom Lenaerts and Francisco C. Santos},
journal= {arXiv preprint arXiv:2010.00403},
year = {2021}
}