面向通用系统的负责任 AI：概述、挑战与前进路径
人工智能
2026-01-21 v1
摘要
基于大型语言与视觉模型构建的现代通用 AI 系统能够执行一系列任务，如撰写文本文章、生成与调试代码、查询数据库以及在不同语言间进行翻译，这使其在各行各业中广受欢迎。然而，其输出中存在幻觉、毒性与刻板印象等风险，导致其不可信。我们根据八项广为接受的负责任 AI(RAI)原则（公平性、隐私性、可解释性、鲁棒性、安全性、真实性、治理与可持续性）审查了现代通用 AI 的各种风险与漏洞，并比较了这些风险在传统特定任务系统中如何不存在、较轻或易于缓解。我们认为，这是由于通用 AI 输出具有非确定性的高自由度，而传统特定任务 AI 系统的 DoFo 则是确定性恒定或较低的，因此需要重新思考我们针对通用 AI 的 RAI 方法。随后，我们推导出 C2V2（控制、一致性、价值、准确性）需求，以满足未来通用 AI 系统的 RAI 要求，并讨论了近期在 AI 对齐、检索增强生成、推理增强等方面的努力如何满足一项或多项需求。我们相信，通过沿 C2V2 维度对依赖于应用或领域的 RAI 要求进行形式化建模，并采用系统设计方法合理组合各种技术以满足这些需求，可以实现开发负责任通用 AI 的目标。
引用
@article{arxiv.2601.13122,
title = {Responsible AI for General-Purpose Systems: Overview, Challenges, and A Path Forward},
author = {Gourab K Patro and Himanshi Agrawal and Himanshu Gharat and Supriya Panigrahi and Nim Sherpa and Vishal Vaddina and Dagnachew Birru},
journal= {arXiv preprint arXiv:2601.13122},
year = {2026}
}