旁观者清：端到端加密系统中的内容审核方法
密码学与安全
2022-02-10 v1
摘要
在本文中，我们评估了端到端加密（E2EE）服务中内容审核的现有技术方案。首先，我们解释内容审核工具箱中的各种工具、其使用方式以及审核周期的不同阶段，包括不良内容的检测。随后，我们给出加密与 E2EE 的定义，其中包含终端用户的隐私与安全保证，并在此基础上评估当前用于在 E2EE 服务中检测不良内容的技术方案是否违背这些保证。我们发现，用户举报与元数据分析的技术路径最有可能维护终端用户的隐私与安全保证。两者均提供了有效工具，可检测 E2EE 服务上大量不同类型的有问题内容，包括辱骂与骚扰信息、垃圾信息、错误与虚假信息以及 CSAM，尽管仍需更多研究以改进这些工具并更好地衡量其有效性。相反，我们发现其他声称便于在 E2EE 系统中进行内容检测的技术会削弱 E2EE 系统的关键安全保证。
引用
@article{arxiv.2202.04617,
title = {Outside Looking In: Approaches to Content Moderation in End-to-End Encrypted Systems},
author = {Seny Kamara and Mallory Knodel and Emma Llansó and Greg Nojeim and Lucy Qin and Dhanaraj Thakur and Caitlin Vogus},
journal= {arXiv preprint arXiv:2202.04617},
year = {2022}
}