有问题的机器行为：算法审计的系统性文献综述

Jack Bandy

有问题的机器行为：算法审计的系统性文献综述

计算机与社会 2021-02-09 v1 人工智能人机交互

作者: Jack Bandy

摘要

尽管算法审计在普遍性与公共重要性上迅速增长，但相对而言，致力于综合既往工作并规划该领域未来研究的学术工作甚少。本系统性文献综述旨在做到这一点，遵循PRISMA指南对超过500篇英文文章进行综述，从中筛选出62项算法审计研究。这些研究主要按行为（歧视、扭曲、剥削与误判）进行综合与组织，并提供了领域（如搜索、视觉、广告等）、组织（如Google、Facebook、Amazon等）与审计方法（如sock puppet、直接抓取、众包等）的代码。该综述展示了既往审计研究如何揭示表现出问题行为的面向公众的算法，例如负有扭曲责任的搜索算法与负有歧视责任的广告算法。基于所综述的研究，它还提出了一些亟需未来审计关注的行为（如基于交叉性身份的歧视）、领域（如广告算法）、方法（如代码审计）与组织（如Twitter、TikTok、LinkedIn）。本文最后给出了成功审计的共同要素，并在迈向算法公正的更广阔研究背景下讨论了算法审计。

关键词

算法审计系统性文献综述有问题的机器行为歧视 PRISMA 算法公正审计方法

引用

@article{arxiv.2102.04256,
  title  = {Problematic Machine Behavior: A Systematic Literature Review of Algorithm Audits},
  author = {Jack Bandy},
  journal= {arXiv preprint arXiv:2102.04256},
  year   = {2021}
}

备注

To Appear in the Proceedings of the ACM (PACM) Human-Computer Interaction, CSCW '21

有问题的机器行为：算法审计的系统性文献综述

摘要

关键词

引用

备注

相关论文