人工智能治理研究中的现实世界差距
人工智能
2025-05-07 v2
摘要
基于 2020 年 1 月至 2025 年 3 月期间 9439 篇生成式 AI 论文中的 1178 篇安全与可靠性论文，我们比较了领先 AI 公司（Anthropic、Google DeepMind、Meta、Microsoft 和 OpenAI）与 AI 大学（CMU、MIT、NYU、Stanford、UC Berkeley 和 University of Washington）的研究产出。我们发现，企业 AI 研究越来越集中于部署前领域——模型对齐和测试与评估——而对部署阶段问题（如模型偏见）的关注已经减弱。在高风险部署领域存在显著的研究差距，包括医疗保健、金融、错误信息、说服性和成瘾性功能、幻觉和版权。如果缺乏对已部署 AI 的改进可观测性，日益增长的企业集中度可能会加深知识赤字。我们建议扩大外部研究人员对部署数据的访问，并对市场中的 AI 行为进行系统性可观测性研究。
引用
@article{arxiv.2505.00174,
title = {Real-World Gaps in AI Governance Research},
author = {Ilan Strauss and Isobel Moure and Tim O'Reilly and Sruly Rosenblat},
journal= {arXiv preprint arXiv:2505.00174},
year = {2025}
}
备注
Corrected a previous error: replaced 'underrepresented in Academic AI research' with the intended phrase 'underrepresented in Corporate AI research'