保护去中心化社交媒体：用于自动化社区规则合规的 LLM 智能体
计算机与社会
2024-09-16 v1 计算与语言
人机交互
物理与社会
摘要
确保内容符合社区准则对于维护健康的在线社交环境至关重要。然而，传统的人工合规检查因用户生成内容数量庞大且审核员数量有限而难以扩展。自然语言理解领域的最新进展，特别是大语言模型，为自动化内容合规验证带来了新的机遇。本工作评估了六个基于开放 LLM 构建的 AI 智能体，用于去中心化社交网络中的自动化规则合规检查，该环境因社区范围和规则各异而具有挑战性。通过分析来自数百个 Mastodon 服务器的超过 50,000 条帖子，我们发现 AI 智能体能够有效检测不合规内容，理解语言细微差别，并适应多样化的社区背景。大多数智能体还表现出较高的评分者间信度，以及在合规建议和理由方面的一致性。基于领域专家的人工评估证实了这些智能体的可靠性和实用性，使其成为半自动化或人在回路内容审核系统的有前景的工具。
关键词
引用
@article{arxiv.2409.08963,
title = {Safeguarding Decentralized Social Media: LLM Agents for Automating Community Rule Compliance},
author = {Lucio La Cava and Andrea Tagarelli},
journal= {arXiv preprint arXiv:2409.08963},
year = {2024}
}