数千名AI作者关于AI未来的看法

在同类调查中规模最大的一次中，2778名曾在顶级人工智能（AI）会议或期刊上发表过论文的研究人员对AI进展的速度以及先进AI系统的性质和影响做出了预测。总体预测显示，到2028年，AI系统有至少50%的概率实现若干里程碑，包括从头开始自主构建支付处理网站、创作出一首与流行音乐人新歌无法区分的歌曲，以及自主下载并微调大型语言模型。如果科学进展不受干扰，到2027年，无辅助机器在所有可能任务上超越人类的概率估计为10%，到2047年则为50%。后一个估计比我们仅一年前进行的类似调查（Grace等人，2022年）得出的结果提前了13年。然而，所有人类职业实现完全自动化的概率预计到2037年达到10%，到2116年才达到50%（2022年调查中为2164年）。大多数受访者对AI进步的长期价值表示相当大的不确定性：虽然68.3%的人认为超人类AI带来好结果的可能性大于坏结果，但在这些净乐观者中，48%的人认为出现人类灭绝等极坏结果的概率至少为5%，而59%的净悲观者认为出现极好结果的概率为5%或更高。38%至51%的受访者认为先进AI导致人类灭绝等坏结果的概率至少为10%。超过一半的受访者表示，对六种不同的AI相关场景（包括错误信息、威权控制和不平等）应当给予“实质性”或“极端”关注。关于AI进步更快还是更慢对人类未来更有利，存在分歧。然而，人们普遍认为，旨在最小化AI系统潜在风险的研究应当得到更多优先考虑。