算法印记

当算法危害出现时，一个合理的应对措施是停止使用算法，以解决与公平、问责、透明和伦理（FATE）相关的问题。然而，仅仅移除算法并不意味着其 FATE 相关问题不复存在。本文引入“算法印记”这一概念，以说明仅移除算法未必能撤销或缓解其后果。我们通过 2020 年围绕普通教育证书（GCE）高级（A）水平考试算法评分的事件来操作化该概念及其影响，该考试是一项国际认可的基于英国的高中毕业文凭考试，在超过 160 个国家实施。尽管该算法标准化最终因全球抗议而被移除，我们展示了这一移除未能撤销算法印记对塑造学生、教师和家长生活的社会技术基础设施的影响。这些事件提供了一个难得的机会来分析有和没有算法中介的世界状态。我们将案例研究置于孟加拉国，以说明全球北方制造的算法如何不成比例地影响全球南方的利益相关者。通过记录超过一年的社区参与（包括 47 次访谈），我们呈现了孟加拉国“发生了什么”的首个连贯时间线，并借助算法印记与情境化算法公平的视角对“为何”及“如何”发生进行语境化。分析这些事件时，我们强调了如何在基础设施、社会与个体层面推断算法印记的轮廓。我们分享了围绕印记意识的概念性与实践性启示，其可以（a）拓宽我们思考算法影响的边界，（b）为我们设计算法提供信息，以及（c）指导人工智能治理。