如何理解端到端加密与人工智能：训练、处理、披露与同意
密码学与安全
2025-03-25 v2 人工智能
摘要
端到端加密（E2EE）已成为保障通信安全的金标准，为数十亿用户提供强大的保密性和隐私保证。然而，当前关于将人工智能（AI）模型广泛集成到 E2EE 系统中的趋势，引发了严肃的安全担忧。本文对 AI 模型与 E2EE 应用的（不）兼容性进行了批判性检视。我们从两个层面进行探讨：（1）将 AI "助手"集成到 E2EE 应用中，（2）将 E2EE 数据用于训练 AI 模型。我们分析了每种方法的潜在安全影响，识别出与 E2EE 安全保证相冲突的因素。随后，我们分析了在 E2EE 应用中集成 AI 模型的法律含义，鉴于 AI 集成可能削弱 E2EE 所承诺的保密性。最后，我们基于技术与法律分析，提出一系列详细建议，包括必须优先采取的技术设计选择以维持 E2EE 安全；服务提供商如何准确表述 E2EE 安全；以及 AI 功能默认行为和请求用户同意的最佳实践。我们希望本文能够催化对 AI 快速部署与 E2EE 所提供安全性之间张力的知性对话，并指导负责任地开发新型 AI 功能。
引用
@article{arxiv.2412.20231,
title = {How To Think About End-To-End Encryption and AI: Training, Processing, Disclosure, and Consent},
author = {Mallory Knodel and Andrés Fábrega and Daniella Ferrari and Jacob Leiken and Betty Li Hou and Derek Yen and Sam de Alfaro and Kyunghyun Cho and Sunoo Park},
journal= {arXiv preprint arXiv:2412.20231},
year = {2025}
}