关于商品化平台上的儿童安全思考

全球社交媒体与在线通信平台的爆发改变了我们彼此之间以及作为社会的交互方式，也带来了新的安全与隐私挑战。像所有技术一样，这些平台可能被滥用，且经常被用来试图大规模造成伤害。由这些平台促成的其中一类最重大的犯罪是儿童性虐待——既放大了既有虐待，又催生了完全新型的仅在线虐待，其对受害者的影响同样具有灾难性。许多平台大量投入打击此类犯罪，将确认的违法证据移交执法部门。端到端加密及类似技术的引入破坏了当今许多已有的缓解措施，并引发了关于良好的儿童安全与良好的普通用户隐私和安全之间表面二元对立的辩论。该辩论集中于利用称为客户端扫描的技术检测散布已知虐待图像的不法者这一问题。我们将表明，在线儿童性虐待的真实问题远比不法者图像共享复杂，为此提供一组新的“危害原型”以更好地将危害归入具有相似技术特征的类别，并尽可能厘清平台与执法部门当前在处理儿童性虐待内容及其现实世界影响方面所使用的流程。我们在较高层面上探讨了可作为任何潜在解决方案一部分的多种技术，考察了不同用例中可能产生的收益与弊端，并以一个假设服务为例说明如何将这些技术结合起来，在保护儿童安全并支持执法行动的同时提供用户隐私与安全。