去中心化网络中的有害内容与模型共享的潜力
计算机与社会
2022-04-28 v1 网络与互联网体系结构
摘要
“去中心化网络”（DW）是一个不断发展的概念，涵盖旨在提高网络透明度和开放性的技术。DW 依赖于独立的服务器（即实例），这些服务器以点对点方式互联，以提供一系列服务（如微博、图片分享、视频流）。然而，在这种去中心化环境中，有害内容审核颇具挑战性。这是因为不存在一个可以定义有害性的中心实体，也没有一个可用于构建通用分类器的大型中心数据池。因此，DW 被滥用于协调和传播有害材料的几起引人注目的事件也就不足为奇了。我们使用来自 Pleroma（一个流行的 DW 微博服务）上 117K 用户的 9.9M 条帖子数据集，量化了有害内容的存在。我们发现有害内容普遍存在，并在实例之间迅速传播。我们表明，由于缺乏足够的可用训练数据以及标注所需的工作量，自动化逐实例内容审核具有挑战性。因此，我们提出并评估了 ModPair，一个能有效检测有害内容的模型共享系统，其平均逐实例宏 F1 分数达到 0.89。
引用
@article{arxiv.2204.12709,
title = {Toxicity in the Decentralized Web and the Potential for Model Sharing},
author = {Haris Bin Zia and Aravindh. Raman and Ignacio Castro and Ishaku Hassan Anaobi and Emiliano De Cristofaro and Nishanth Sastry and Gareth Tyson},
journal= {arXiv preprint arXiv:2204.12709},
year = {2022}
}