隐私保护在线内容审核：一个联邦学习用例
机器学习
2022-09-27 v1 社会与信息网络
摘要
用户每天在各种社交网络平台上接触到大量有害内容。一种解决方案是使用机器学习技术开发在线审核工具。然而，在线平台对用户数据的处理需要符合隐私政策。联邦学习（FL）是一种机器学习范式，其中训练在用户设备上本地执行。尽管 FL 框架在理论上符合 GDPR 政策，但仍可能发生隐私泄露。例如，访问最终训练模型的攻击者可以成功地对参与训练过程的用户数据执行非预期的推断。本文提出一种用于在线内容审核的隐私保护 FL 框架，其结合了差分隐私（DP）。为证明我们方法的可行性，我们聚焦于检测 Twitter 上的有害内容——但整体概念可推广到其他类型的失范行为。我们模拟了一个以 FL 方式运行的文本分类器，可检测含有有害内容的推文。我们表明，所提出的 FL 框架的性能可接近集中式方法——对于 DP 和非 DP 的 FL 版本均如此。此外，即使只有少量客户端（每个客户端数据量很小）可用于 FL 训练，它仍具有高性能。当减少客户端数量（从 50 到 10）或每客户端数据点数（从 1K 到 0.1K）时，分类器仍能达到约 81% 的 AUC。进一步地，我们将评估扩展到捕获不同类型用户失范行为的另外四个 Twitter 数据集，仍获得有前景的性能（61%–80% AUC）。最后，我们探究 FL 训练阶段用户设备上的开销，表明本地训练不会引入过高的 CPU 利用率和内存消耗开销。
引用
@article{arxiv.2209.11843,
title = {Privacy-Preserving Online Content Moderation: A Federated Learning Use Case},
author = {Pantelitsa Leonidou and Nicolas Kourtellis and Nikos Salamanos and Michael Sirivianos},
journal= {arXiv preprint arXiv:2209.11843},
year = {2022}
}