在印度及更广范围内重新构想算法公平性
计算机与社会
2021-01-28 v2 人工智能
计算与语言
机器学习
摘要
传统的算法公平性是西方中心的，这体现在其亚群体、价值观和方法中。在本文中，我们去中心化算法公平性并分析印度的 AI 权力。基于 36 个定性访谈以及对印度算法部署的话语分析，我们发现算法公平性的若干假设受到挑战。我们发现，在印度，由于社会经济因素数据并非总是可靠，ML 制造者似乎遵循双重标准，且 AI 引发不加质疑的渴望。我们认为，在印度仅本地化模型公平性可能是粉饰，因为模型与受压迫社区之间的距离很大。相反，我们在印度重新构想算法公平性，并提供一条重新语境化数据与模型、赋能受压迫社区以及促成 Fair-ML 生态系统的路线图。
引用
@article{arxiv.2101.09995,
title = {Re-imagining Algorithmic Fairness in India and Beyond},
author = {Nithya Sambasivan and Erin Arnesen and Ben Hutchinson and Tulsee Doshi and Vinodkumar Prabhakaran},
journal= {arXiv preprint arXiv:2101.09995},
year = {2021}
}