面向 Fediverse 的 DeTox-Fed：基于联邦图神经网络的有毒对话检测
社会与信息网络
2026-05-21 v1 计算机与社会
摘要
去中心化社交网络（DSNs），特别是 Fediverse（如 Pleroma、Mastodon、Lemygrad）的快速普及，带来了内容管理的新挑战。独立的实例各自管理数据，遵循不同的 moderation 政策，往往仅观察到对话的部分视图。我们提出的 DeTox-Fed 是一种联邦图学习框架，用于在不要求实例共享原始对话或 moderation 标签的情况下检测 Fediverse 中的有毒对话。每个实例构建局部对话图，其中节点代表对话树，边捕获跨对话的用户参与模式。随后在联邦学习设置下训练图神经网络（GNN），使各实例能够在保留数据局部性的同时协同学习毒性分类器。不同于仅基于文本的 moderation 方法，DeTox-Fed 融合了对话结构、用户交互模式、对话层次统计信息和聚合情感信号。我们在大型 Pleroma 对话数据集上评估了该框架，表明在受限的局部标签、部分客户端参与和不同 moderation 阈值条件下，DeTox-Fed 能够实现稳定的有毒对话检测。我们的结果表明，联邦图基 moderation 是去中心化社交网络半自动化 moderation 的一个有前景的方向。
引用
@article{arxiv.2605.21054,
title = {DeTox-Fed: Detecting Toxic Conversations in the Fediverse with Federated Graph Neural Networks},
author = {Pantelitsa Leonidou and Nikos Salamanos and Sotiris Gypsiotis and Michael Sirivianos},
journal= {arXiv preprint arXiv:2605.21054},
year = {2026}
}