作为社会-生态-技术系统的算法：以环境正义视角审视算法审计
计算机与社会
2023-05-24 v2
摘要
本文重新将算法系统框定为与社会和生态系统紧密相连且为其一部分，并提出了一种首创的、面向环境正义的算法审计方法论。我们如何考量算法系统设计、开发与部署方式中的环境与气候正义维度？这些影响本质上是涌现的，只能在算法系统与其所处更广义生态系统中社会（含制度）与生态组分之间的关系层面上被理解与应对。因此，我们主张，若缺乏对算法系统的整体本体论，便无法公正对待算法系统及其底层计算基础设施更广泛环境影响的涌现性质。我们提议将算法系统定义为与社会-生态-技术系统 (SETS) 在本体论上不可区分，将涌现含义框定为算法所集成并运行于其中的更广义结构中社会、生态与技术组分之间的耦合。我们借鉴既有 SETS 分析工作以及环境正义 (EJ) 文献与实践中的新兴主题，来概念化并评估算法影响。随后我们提出三项政策建议，以帮助建立基于 SETS 的 EJ 算法审计路径：(1) 拓宽审计的输入并开放审计的输出，(2) 实现有效的救济获取，(3) 保证基于地方与关系性的影响评估过程。我们将这些操作化为面向广泛利益相关者的定性问题框架。借此，本文旨在激发政策制定者、研究者、从业者、公民社会与基层社区之间更强劲、更频繁的互动。
引用
@article{arxiv.2305.05733,
title = {Algorithms as Social-Ecological-Technological Systems: an Environmental Justice Lens on Algorithmic Audits},
author = {Bogdana Rakova and Roel Dobbe},
journal= {arXiv preprint arXiv:2305.05733},
year = {2023}
}
备注
18 pages, In Proceedings of FAccT '23: 2023 ACM Conference on Fairness, Accountability, and Transparency