AI 研究者担忧什么？
计算机与社会
2026-03-09 v1
摘要
随着人工智能吸引着巨额投资与广泛关注，关于技术机遇与不确定性的担忧交织，既涉及技术问题也涉及社会问题。公共讨论由少数强大的声音主导，往往凸显极端的承诺与威胁。我们希望了解，公共讨论或科技公司的优先事项，是否代表了AI研究者的意见。我们进行的调查规模超过4000名AI研究者，是迄今为止规模最大的一次。该调查旨在理解对各种议题的态度，并纳入与现有调查中派生的公共态度进行比较。大多数针对AI研究者的调查仅询问他们对技术阈值的预测，或某些灾难性事件的概率。这些调查掩盖了通常特征于科学研究的不确定性与多样性。我们的假设是，AI研究者的意见将与普通公众的意见截然不同。虽然在技术潜在利益方面存在分歧，但我们的调查显示，研究者与公众在风险评估与优先级排序方面存在令人惊讶的一致性。针对开放文本问题'关于AI，您最担心什么？'的回答显示，仅有3%的AI研究者将存在主义风险列为首要优先事项，尽管这些风险在媒体与政策讨论中屡屡被放大。AI技术与AI研究者似乎比公共形象所呈现的更'正常'。我们的调查结果暗示了关于AI潜在伤害、风险与机遇的新型公共对话的可能性。与其对未来潜在风险进行猜测，政策制定者与AI研究者应当合作，理解并缓解那些已明确引起公众关切的社会技术风险。
引用
@article{arxiv.2603.06223,
title = {What are AI researchers worried about?},
author = {Cian O'Donovan and Sarp Gurakan and Ananya Karanam and Xiaomeng Wu and Jack Stilgoe},
journal= {arXiv preprint arXiv:2603.06223},
year = {2026}
}
备注
15 pages, 11 figures