AI研究员关于自动化AI研发与智能爆炸的看法
计算机与社会
2026-03-09 v2
摘要
许多领先AI研究员预计AI发展将超过此前所有技术革命的变革性影响。这一信念基于AI将能够自动化自身研发进程的观点，导致正反馈回路。2025年8月至9月，我们访谈了来自Google DeepMind、OpenAI、Anthropic、Meta、UC伯克利、普林斯顿和斯坦福等前沿AI实验室和学术机构的25位资深研究员，以了解研究者关于此类情景的看法。尽管AI系统尚未能够实现递归改进，20位受访者认定自动化AI研发是最严峻且紧迫的AI风险之一。受访者预测，AI代理将在编码、数学能力逐渐提升，最终转向AI研发，从而从“助手”或“工具”过渡到“自主AI开发者”，此后预测呈现分歧。虽然研究者一致认同递归改进的可能性，但在时间线或合适的治理机制方面存在分歧。例如，在前沿实验室研究员与学术研究员之间出现了认知鸿沟，后者对爆炸式增长情景持更悲观态度。此外，17位受访者预计，具备高级编码或研发能力的AI系统将日益局限于AI公司或政府内部使用，公众难以触及。受访者关于设定监管“红线”意见有分歧，但几乎所有人都支持基于透明度的缓解措施。
引用
@article{arxiv.2603.03338,
title = {AI Researchers' Views on Automating AI R&D and Intelligence Explosions},
author = {Severin Field and Raymond Douglas and David Krueger},
journal= {arXiv preprint arXiv:2603.03338},
year = {2026}
}
备注
26 pages, 4 figures