AI 设计、评估与对齐中的 disagreement 价值
计算机与社会
2025-05-13 v1
摘要
人工智能（AI）系统在设计、评估和对齐管道中普遍存在分歧。然而，AI 开发中的标准做法往往掩盖或消除分歧，导致一种工程化的同质化，这在知识上和伦理上都可能造成伤害，尤其是对被边缘化群体。本文对此风险进行表征，构建一套规范性框架以指导关于 AI 生命周期中分歧的实践性思考。我们的贡献有两个方面：首先，我们引入“perspectival homogenization”（视角同质化）的概念，将其表述为一种伦理-知识风险，当 AI 系统开发某个环节不正当地抑制分歧和多元视角时便会引发。我们认为，视角同质化最好被理解为一种程序性风险，这需要在 AI 开发管道的各个环节进行针对性干预。其次，我们提出的规范性框架以解释分歧为何具有知识效益以及如何在实践中实现这些效益的研究线索为基础。我们将该框架应用于 AI 开发任务的三个关键阶段：分歧何时具有知识价值；应纳入并保留哪些视角；如何构建任务并处理权衡；以及分歧应如何被记录和沟通。在此过程中，我们挑战了 AI 实践中的常见假设，为新兴的参与式和多元主义方法提供原则基础，识别出未来 AI 设计与治理的可操作路径。
引用
@article{arxiv.2505.07772,
title = {The Value of Disagreement in AI Design, Evaluation, and Alignment},
author = {Sina Fazelpour and Will Fleisher},
journal= {arXiv preprint arXiv:2505.07772},
year = {2025}
}
备注
Accepted to ACM Conference on Fairness, Accountability, and Transparency (FAccT) 2025