真相是谁的？面向（代理人）AI的多元主义地理对齐
人工智能
2025-08-08 v1 计算机与社会
摘要
AI（超）对齐描述的是确保（未来）AI系统遵循社会规范和目标的挑战。尽管快速发展的文献正在解决偏见和不平等问题，但地理层面的对齐问题仍鲜有被探讨。简单来说，不同地区可能对什么是合适的、真实的或合法的看法差异很大，这源于文化规范、政治现实和立法要求。应用于 AI/ML 工作流程的对齐措施有时会产生与统计现实相悖的结果，例如文本到图像模型在公司领导层呈现平衡性别比例，尽管实际存在不平衡。关键在于，一些模型输出在全球范围内都是可接受的，而另一些则取决于了解用户所在位置及其背景。例如，Google 地图会根据用户位置以不同的方式呈现克什米尔边界。新的东西在于，AI 如今以前所未有的规模和自动化方式来调解知识、表达意见并向全球数百万用户代表地理现实，往往对如何管理上下文几乎没有透明度。随着代理人 AI 的到来，对空间时间敏感的对齐需求比一种适用于所有地方的方法的需求日益紧迫。本文综述了关键的地理研究问题，提出了未来工作的主题，并概述了评估对齐敏感性的方法。
引用
@article{arxiv.2508.05432,
title = {Whose Truth? Pluralistic Geo-Alignment for (Agentic) AI},
author = {Krzysztof Janowicz and Zilong Liu and Gengchen Mai and Zhangyu Wang and Ivan Majic and Alexandra Fortacz and Grant McKenzie and Song Gao},
journal= {arXiv preprint arXiv:2508.05432},
year = {2025}
}