GeoBS：AI 模型中地理偏差的信息论量化
人工智能
2025-09-30 v1
摘要
AI 模型（尤其是基础模型）的广泛采用对众多领域产生了深远影响。然而，这也引发了重大的伦理关切，包括偏差问题。尽管已有大量工作致力于量化和缓解 AI 模型中的社会偏差，但地理偏差（简称地理偏差）受到的关注要少得多，这带来了独特的挑战。虽然先前工作探索了量化地理偏差的方法，但这些度量是模型特定的（如 LLM 评分的平均绝对偏差）或空间隐式的（如所有空间分区的平均公平分数）。我们缺乏一个模型无关、普遍适用且空间显式的地理偏差评估框架，使研究人员能够公平地比较不同 AI 模型的地理偏差，并理解哪些空间因素导致了地理偏差。在本文中，我们建立了一个用于地理偏差评估的信息论框架，称为 GeoBS（地理偏差分数）。我们通过展示如何在该框架下解读和分析现有的地理偏差度量，证明了所提框架的通用性。然后，我们提出了三个新的地理偏差分数，明确考虑了复杂的空间因素（多尺度性、距离衰减和各向异性）。最后，我们在 3 个任务、8 个数据集和 8 个模型上进行了大量实验，以证明任务特定的 GeoAI 模型和通用基础模型都可能遭受各种类型的地理偏差。该框架不仅将推进对地理偏差的技术理解，还将为将空间公平性整合到 AI 系统的设计、部署和评估中奠定基础。
引用
@article{arxiv.2509.23482,
title = {GeoBS: Information-Theoretic Quantification of Geographic Bias in AI Models},
author = {Zhangyu Wang and Nemin Wu and Qian Cao and Jiangnan Xia and Zeping Liu and Yiqun Xie and Akshay Nambi and Tanuja Ganu and Ni Lao and Ninghao Liu and Gengchen Mai},
journal= {arXiv preprint arXiv:2509.23482},
year = {2025}
}