跨国通用人工智能联盟（MAGIC）：一项关于人工智能国际协调的提案
人工智能
2023-10-16 v1
摘要
本文提出一个跨国通用人工智能联盟（MAGIC），以缓解来自先进人工智能（AI）的生存风险。MAGIC 将是世界上唯一被允许开发先进 AI 的机构，由其签署成员国通过全球暂停令禁止所有其他先进 AI 开发来强制实施。MAGIC 将是排他性的、以安全为重心、高度安全的，并由成员国集体支持，收益在签署国间公平分配。MAGIC 将允许窄 AI 模型蓬勃发展，同时显著降低通用系统的错位、流氓、突破或失控结果的可能性。我们不讨论实施暂停令的政治可行性，也不讨论禁止高容量 AGI 训练运行所需的具体立法策略与规则。相反，我们提出一个积极的未来愿景：MAGIC 作为一种全球治理机制，可为先进 AI 的长期安全监管奠定基础。
引用
@article{arxiv.2310.09217,
title = {Multinational AGI Consortium (MAGIC): A Proposal for International Coordination on AI},
author = {Jason Hausenloy and Andrea Miotti and Claire Dennis},
journal= {arXiv preprint arXiv:2310.09217},
year = {2023}
}