美中关于极端人工智能风险与全球治理的视角

美国和中国将在导航与先进人工智能相关的安全与安全挑战方面发挥重要作用。我们寻求更好地了解每国专家如何描述来自先进人工智能的安全与安全威胁、来自人工智能的极端风险，以及潜在的国际合作。具体而言，我们整合了来自美国和中国主要技术与政策领导者的公开声明。我们聚焦于可能对国家和全球安全产生最重大影响的先进人工智能形式，如人工通用智能（AGI）。两国的专家都对来自AGI的风险、来自智能爆炸的风险以及来自可能逃离人类控制的人工智能系统的风险表示关切。两国也已启动早期努力，旨在促进围绕安全标准和风险管理实践的国际合作。值得注意的是，我们的发现仅反映来自公开来源的信息。尽管如此，我们的发现可以为政策制定者和研究人员提供关于美国和中国AI话语状态的信息。我们希望此类工作可以为讨论先进AI、其全球安全威胁以及可能的国际对话或协议以缓解此类威胁的政策讨论做出贡献。