通过隐私增强技术实现 AI 系统的外部审查
计算机与社会
2025-02-11 v1 人工智能
密码学与安全
摘要
本文描述了由非营利组织 OpenMined 开发的技术基础设施如何在不泄露敏感信息的前提下实现对 AI 系统的外部审查。独立的外部审查 AI 系统对于 AI 开发提供了至关重要的透明度，因此应是任何 AI 治理方法的核心组成部分。实际中，外部研究人员由于 AI 公司对安全、隐私和知识产权的正当关切而难以获得对 AI 系统的访问权限。然而，随着隐私增强技术（PETs）已达到新的成熟水平，OpenMined 开发的端到端技术基础设施将多种 PETs 组合成各种设置，实现对 AI 系统的隐私保护审计。我们展示了两个案例研究，其中该基础设施在现实世界的治理场景中得到部署：“利用新西兰基督堂呼吁会话理解社交媒体推荐算法”和“与英国 AI 安全局评估前沿模型”。我们描述了当前设置和 OpenMined 未来提议的设置所能促进的 AI 系统审查类型。我们得出结论，这些创新方法值得进一步探索和支持来自 AI 治理社区的支持。有兴趣的政策制定者可以专注于在法律层面赋能研究人员。
引用
@article{arxiv.2502.05219,
title = {Enabling External Scrutiny of AI Systems with Privacy-Enhancing Technologies},
author = {Kendrea Beers and Helen Toner},
journal= {arXiv preprint arXiv:2502.05219},
year = {2025}
}