路线图之路线图：我们如何判断AGI已距“曼哈顿计划”一步之遥？
计算机与社会
2020-08-12 v1
摘要
本文主张，在通向AGI的研究中某一时刻，该问题可能已被充分理论化，从而存在实现它的清晰路线图，使得类似曼哈顿计划的努力可大幅缩短完成时间。若国家行为体察觉该阈值已被跨越，其在开放性与国际合作方面的激励可能相当突然地转变，对AI风险与国际AI治理体制的稳定性产生严重影响。本文刻画了此类“跑道”期在性质上如何不同于此前的AI研究阶段，并据此提出一项研究计划，旨在评估AI领域距此类阈值有多近——即呼吁制定一份“路线图之路线图”。
引用
@article{arxiv.2008.04701,
title = {Roadmap to a Roadmap: How Could We Tell When AGI is a 'Manhattan Project' Away?},
author = {John-Clark Levin and Matthijs M. Maas},
journal= {arXiv preprint arXiv:2008.04701},
year = {2020}
}