数据与AI治理：促进大语言模型中的公平、伦理与正义
计算与语言
2025-08-07 v1 人工智能
摘要
本文涵盖了系统性地治理、评估和量化机器学习模型全生命周期中偏见的做法，涵盖从初始开发与验证到持续的生产监控和警戒实施。基于我们对大型语言模型（Large Language Models, LLMs）的偏差评估与评估测试套件（Bias Evaluation and Assessment Test Suite, BEATS）的 foundational work，作者分享了大型语言模型中常见的偏见和公平性相关缺口，并讨论了针对LLMs中偏差、伦理、公平性和事实性（Bias, Ethics, Fairness, and Factuality）的数据与AI治理框架。本文讨论的数据与AI治理方法适用于实际、现实的应用，使在生产部署之前对LLMs进行严格的基准测试，促进持续的实时评估，并积极治理LLM生成的响应。通过在AI开发的整个生命周期内实施数据与AI治理，组织可以显著提升其生成式AI系统的安全性和责任感，有效地缓解歧视风险，防止可能的声誉或品牌相关损害。最终，通过本文，我们旨在推动社会负责且伦理上一致的生成式人工智能驱动应用的创建与部署。
引用
@article{arxiv.2508.03970,
title = {Data and AI governance: Promoting equity, ethics, and fairness in large language models},
author = {Alok Abhishek and Lisa Erickson and Tushar Bandopadhyay},
journal= {arXiv preprint arXiv:2508.03970},
year = {2025}
}
备注
Published in MIT Science Policy Review 6, 139-146 (2025)