面向科学的可检视 AI：一种研究对象的生成式 AI 治理方法
人工智能
2026-04-14 v1
摘要
本文提出了将 AI 作为研究对象（AI as a Research Object, AI-RO）的范式，用于治理科学研究中的生成式 AI 用例。我们不与关于 AI 是作者还是仅是工具的争论相 confrontation，而是提出将 AI 交互视为研究过程中的结构化、可检视组件。在此观点下，AI 辅助科学论文的合法性取决于模型用法如何被整合到工作流程中、如何被记录以及如何被 accountability（问责）所支撑。我们借助研究对象理论和 FAIR 原则，提出了通过 interaction logs 和 metadata packaging 记录模型配置、提示词（prompts）和输出的框架。这些属性在安全与隐私（S&P）研究中尤为重要，在此类研究中， provenance artifacts（源头信息）必须满足保密性约束、完整性保证以及审计可追溯性要求，而通用的披露实践无法满足这些需求。我们实现了一个轻量级写作管道，其中语言模型在明确约束下综合人类作者编写的结构化文献综述笔记，并产生可验证的源头记录。我们将此工作作为一个 position statement 和初始演示性工作流程呈现，论证生成式 AI 在科学中的治理可以作为结构化文档、受控披露和保持完整性的源头捕获来实施。基于此示例，我们概述并阐述了使此类实践变得实用和广泛可采纳所需的一系列必要未来发展。
引用
@article{arxiv.2604.11261,
title = {Inspectable AI for Science: A Research Object Approach to Generative AI Governance},
author = {Ruta Binkyte and Sharif Abuaddba and Chamikara Mahawaga and Ming Ding and Natasha Fernandes and Mario Fritz},
journal= {arXiv preprint arXiv:2604.11261},
year = {2026}
}