基于元数据的儿童性虐待材料检测
机器学习
2021-10-29 v2 密码学与安全
计算机与社会
摘要
儿童性虐待媒体（CSAM）是任何涉及未成年人的性 Explicit 活动的视觉记录。CSAM对受害者的影响不同于实际虐待，因为其传播永不停止，且图像是永久性的。基于机器学习的解决方案可帮助执法部门快速识别CSAM并阻断数字传播。然而，收集CSAM图像来训练机器学习模型存在许多伦理和法律限制，这造成了研究开发的障碍。在此类限制下，基于文件元数据开发CSAM机器学习检测系统带来了若干机会。元数据不是犯罪记录，也没有法律限制。因此，投资基于元数据的检测系统可提高CSAM的发现率并帮助数千名受害者。我们提出了一个用于训练和评估可部署机器学习模型以识别CSAM的框架。我们的框架提供了评估CSAM检测模型对抗智能对手以及模型在开放数据上性能的指导原则。我们将所提框架应用于基于文件路径的CSAM检测问题。在我们的实验中，性能最佳的模型基于卷积神经网络（CNN），达到了0.97的准确率。我们的评估表明，CNN模型通过对抗性地修改数据评估模型时，对主动试图规避检测的违法者具有鲁棒性。在开放数据集上的实验证实该模型泛化良好且可部署。
引用
@article{arxiv.2010.02387,
title = {Metadata-Based Detection of Child Sexual Abuse Material},
author = {Mayana Pereira and Rahul Dodhia and Hyrum Anderson and Richard Brown},
journal= {arXiv preprint arXiv:2010.02387},
year = {2021}
}