算法的算法审计及其与法律的关系
计算机与社会
2022-03-09 v1 人工智能
摘要
算法决策现已广泛存在，从医疗资源配置到推荐或信息排序等更常见的行动。审计这些算法的目标也随之增长。在本文中，我们关注通过与目标算法的用户侧交互进行的外部审计，因此被视为黑箱。然而，这些审计所处的法律框架对开发它们的研究人员多半模糊：一方面，审计结果的法律价值不确定；另一方面审计者的权利与义务不明确。本文的贡献在于将两种典型审计形式与法律相联系，以阐明这些方面：1）第一种审计形式（我们称为Bobby审计形式）针对算法检验一个谓词，而第二种（Sherlock）更宽松并开启多重调查。我们发现：Bobby审计更易招致起诉，但因操作真实用户数据而棘手，这可能导致法院驳回（可采性概念）。Sherlock审计为其操作精心构造数据，最显著的是构建被审计算法的代理。它多用于举报行为，因为即使被接受为证据，其证明价值在实践中也较低。2）这两种形式都要求事先尊重恰当审计权，该权由法律或被审计平台授予；否则无论审计结果如何，审计者也将易受起诉。本文由此凸显当前审计与法律的关系，以构建日益增长的算法审计领域。
引用
@article{arxiv.2203.03711,
title = {Algorithmic audits of algorithms, and the law},
author = {Erwan Le Merrer and Ronan Pons and Gilles Trédan},
journal= {arXiv preprint arXiv:2203.03711},
year = {2022}
}