面向可验证隐私 GenAI 分析的联邦系统
密码学与安全
2025-10-27 v1
摘要
大规模系统必须在实现高隐私和安全标准的同时，满足数据质量、可用性和资源效率的预期。我们提出了下一代联邦分析系统，该系统基于AMD SEV-SNP和Intel TDX等技术的受信任执行环境(TEEs)，为所有服务器端处理提供可验证的隐私保证。在我们的系统中，设备加密并上传数据，标记为可允许的服务器端处理步骤的有限集合。一个开源的TEE托管密钥管理服务保证数据仅可被这些步骤访问，而这些步骤本身受TEE保密性和完整性保证的保护。该系统设计用于灵活的工作负载，包括使用LLM处理非结构化数据(用于结构化摘要)后聚合为差分隐私洞察(具有自动参数调优)。我们系统的透明属性允许任何外部方验证所有原始和派生数据均在TEE中处理，保护其免受系统操作员的检查，并且对所有已发布结果应用差分隐私。该系统已成功部署在生产环境中，为了解真实世界的GenAI体验提供了有益的洞察。
引用
@article{arxiv.2510.21684,
title = {Toward provably private analytics and insights into GenAI use},
author = {Albert Cheu and Artem Lagzdin and Brett McLarnon and Daniel Ramage and Katharine Daly and Marco Gruteser and Peter Kairouz and Rakshita Tandon and Stanislav Chiknavaryan and Timon Van Overveldt and Zoe Gong},
journal= {arXiv preprint arXiv:2510.21684},
year = {2025}
}