重新思考人工智能的文化对齐
人工智能
2025-03-11 v2 计算机与社会
摘要
随着通用人工智能（AI）系统日益融入多样化的人类社区，文化对齐已成为其部署中的关键要素。现有大多数方法将文化对齐视为单向过程，将来自标准化调查和知识库的预定义文化价值观嵌入到 AI 系统中。为了挑战这一观点，我们强调研究表明人类的文化价值观必须在特定 AI 系统的语境下加以理解。随后，我们使用 GPT-4o 案例研究证明，AI 系统的文化对齐取决于人类如何构建其与系统的交互。基于这些发现，我们主张应将文化对齐重新构建为一个双向过程：不应仅仅将标准化价值观强加于 AI，而应查询与每个基于 AI 的系统最相关的人类文化价值观，并通过由人类用户塑造的交互框架将其与这些价值观相对齐。
引用
@article{arxiv.2501.07751,
title = {Rethinking AI Cultural Alignment},
author = {Michal Bravansky and Filip Trhlik and Fazl Barez},
journal= {arXiv preprint arXiv:2501.07751},
year = {2025}
}