面向社区倡导者与活动家的技术审计算法公平工具包
计算机与社会
2019-12-09 v1 人工智能
人机交互
机器学习
社会与信息网络
摘要
近期大量记录算法系统歧视性危害的学术研究激发了公众对算法问责与监管的广泛兴趣。然而，由于缺乏支持公众理解算法与人工智能的资源，有效的问责与监管受到持续阻碍。通过与一家美国民权组织及其社区组织联盟的互动，我们识别出以下需求：(i) 以通俗语言帮助利益相关者区分分析型与信息系统类型的启发式方法，以及 (ii) 此类系统的风险评估工具，其起点是使算法更易懂。本工作提供了一个实现这些目标的工具包。本文既将算法公平工具包（AEKit）公平作为制品呈现，也详述了我们的参与式过程如何塑造其设计。我们的工作属于人机交互学术范畴，展示了 HCI 方法与途径在算法透明与问责领域问题中的价值。
引用
@article{arxiv.1912.02943,
title = {An Algorithmic Equity Toolkit for Technology Audits by Community Advocates and Activists},
author = {Michael Katell and Meg Young and Bernease Herman and Dharma Dailey and Aaron Tam and Vivian Guetler and Corinne Binz and Daniella Raz and P. M. Krafft},
journal= {arXiv preprint arXiv:1912.02943},
year = {2019}
}