生成式 AI 在事实核查中的影响与机遇

生成式 AI 似乎正准备改变白领职业，超过 90% 的 Fortune 500 公司正在使用 OpenAI 的旗舰 GPT 模型，这些模型被描述为“通用目的技术”，具有可能对经济产生时代性变革的能力。但这类技术将如何影响其职责是核查事实并报道信息、确保信息生态健康的组织？为探究此问题，我们对来自六大洲 29 个事实核查组织中 38 名参与者进行了 30 场访谈，询问他们如何使用生成式 AI 以及他们看到的机遇与挑战。我们发现，事实核查者对生成式 AI 的使用方式会基于组织基础设施而有所不同，分别适用于编辑中的质量保证、调查中的趋势分析以及倡导中的信息素养。我们使用 TOE 框架描述了参与者的关注点，涵盖技术层面（缺乏透明度）、组织层面（资源限制）以及环境层面（不确定且不断演变的政策）。基于我们参与者的见解，我们描述了事实核查与生成式 AI 之间的价值张力，并提出了一种新颖的验证维度，用于描述为信息验证工作设计的生成模型空间。最后，我们概述了一项公平性、问责性和透明性研究议程，以支持生成式 AI 在事实核查中的负责任使用。整个过程中，我们强调了人类基础设施和劳动力在与 AI 协作生产已验证信息中的重要作用。我们期望这项工作不仅会为事实核查的科学文献提供信息，也有助于理解组织对强大但不可靠的新技术进行适应的过程。