人工智能系统中的仇外表现
计算机与社会
2023-10-09 v2 人工智能
摘要
仇外心理是边缘化、歧视与冲突的关键驱动因素之一，然而许多知名的机器学习（ML）公平性框架未能全面衡量或缓解由此产生的仇外危害。本文旨在弥合这一概念鸿沟，并助力促进人工智能（AI）解决方案的安全与合乎道德的设计。我们首先界定不同类型的仇外危害，进而将此框架应用于若干突出的 AI 应用领域，审视 AI 与仇外心理在社交媒体与推荐系统、医疗、移民、就业以及大型预训练模型中偏置的潜在相互作用，以此奠定我们对仇外影响的分析基础。这些分析有助于为未来 AI 系统朝向包容、亲外（xenophilic）的设计提供建议。
引用
@article{arxiv.2212.07877,
title = {Manifestations of Xenophobia in AI Systems},
author = {Nenad Tomasev and Jonathan Leader Maynard and Iason Gabriel},
journal= {arXiv preprint arXiv:2212.07877},
year = {2023}
}