立场：确保相互隐私对于专有AI系统的有效外部评估是必要的
计算机与社会
2025-03-04 v1 人工智能
密码学与安全
摘要
AI系统的外部评估正日益被视为理解其潜在风险的关键方法。然而，在实践中促进外部评估面临重大挑战，需要在评估者对系统访问的需求与AI开发者的隐私和安全关切之间取得平衡。此外，评估者也有理由保护自身隐私——例如为了保持保留测试集的完整性。我们将同时保障开发者和评估者隐私的挑战称为相互隐私问题。在本立场论文中，我们论证了(i)解决这一相互隐私挑战对于AI系统的有效外部评估是必要的，以及(ii)当前促进外部评估的方法未能充分应对这一挑战，特别是在保护评估者隐私方面。在论证过程中，我们形式化了相互隐私问题；审视了模型所有者和评估者的隐私与访问需求；并探讨了这一挑战的潜在解决方案，包括通过应用密码学和基于硬件的方法。
引用
@article{arxiv.2503.01470,
title = {Position: Ensuring mutual privacy is necessary for effective external evaluation of proprietary AI systems},
author = {Ben Bucknall and Robert F. Trager and Michael A. Osborne},
journal= {arXiv preprint arXiv:2503.01470},
year = {2025}
}