MeVer深度伪造检测服务：从开发到实际部署的经验教训

得益于生成方法的近期改进，深度伪造因其日益提升的视觉质量、易于使用的生成工具增多以及通过社交媒体的快速传播而成为主流。这一事实对我们的社会构成严重威胁，可能侵蚀社会凝聚力并影响我们的民主制度。为了减轻这一威胁，文献中已提出了大量深度伪造检测方案，但极少提供可在实际环境中使用的网络服务。在本文中，我们介绍了MeVer深度伪造检测服务，这是一个检测图像和视频中深度学习篡改的网络服务。我们展示了所提处理流程的设计与实现，该流程涉及模型集成方案，并为该服务配备了模型卡片以确保透明度。实验结果表明，我们的服务在三个基准数据集上表现稳健，但易受对抗攻击的影响。最后，我们概述了将研究系统部署到生产环境中的经验与教训，希望这对其他学术和工业团队有所帮助。