加密消息的私有分层治理

由于联网环境中仇恨、骚扰及其他形式的滥用行为日益严重，已推动主要平台探索分层治理模式。该模式旨在允许社区指定成员承担 moderation 和 leadership 职责；同时，成员仍可将问题升级至平台。但这些有前景的做法仅在明文环境中得到探索，即社区内容对平台公开。在加密消息中实现分层治理的情况尚不明了。我们提出了私有分层治理系统。这些系统应在保持内容和未向平台报告的治理行为加密隐私的同时，实现类似明文环境中的社区治理水平。我们设计了第一个此类系统，采用分层方法在加密消息协议之上添加治理逻辑；我们展示了如何通过扩展消息层安全（MLS）协议，即可实现丰富的治理政策。我们的做法允许开发人员快速原型化新的治理功能，借鉴自名为 PolicyKit 的明文系统。我们构建了一个名为 MlsGov 的原型 E2EE 消息系统，支持基于内容的社区和平台 moderation、社区 moderator 的选举、解除滥用用户的投票等功能。