聊天管控还是儿童保护?

Ian Levy 和 Crispin Robinson 的立场文件《关于商品化平台上儿童安全的思考》值得欢迎,因为它拓展了关于儿童安全关切在多大程度上可证明对在线隐私施加法律限制的辩论范围。他们论文的背景是英国和欧盟提出的法律,赋予当局破坏在线通信服务中端到端加密的权力,其理由是预防和侦测儿童虐待及恐怖分子招募。两个司法管辖区都计划让服务公司更容易从其服务器下架一系列非法材料;但它们还提议强制客户端扫描——不仅针对已知的非法图像,还针对表明性诱骗或恐怖招募的文本消息。在这篇初步回应中,我提出了关于当局提议强制使用的技术能力的技术问题,以及一个更深层的战略问题:我们应当从面临暴力风险儿童的角度,而非从安全情报机构和出售监控软件公司的角度看待儿童安全辩论。关于恐怖主义的辩论同样需要扎根于年轻人被激进化的背景。政治暴力和针对儿童的暴力往往被政治化,并因此常常得不到妥善 policing。有效的 policing,尤其是针对嵌入棘手社会问题的犯罪,必须由地方主导并涉及多方利益相关者;用“人工智能”替代警察、社工和教师的想法,正是导致糟糕政策的那种 magical thinking。辩论还必须在人权与隐私法设定的边界条件内进行,且为务实起见也必须考虑合理的警务优先事项。