学习攻破深度感知哈希：以NeuralHash为例
机器学习
2024-07-17 v5 密码学与安全
计算机视觉与模式识别
摘要
苹果公司近期公开了其深度感知哈希系统NeuralHash，用于在文件上传至iCloud服务之前在用户设备上检测儿童性虐待材料（CSAM）。关于用户隐私保护和系统可靠性的公开批评迅速出现。在本文中，我们基于NeuralHash对深度感知哈希进行了首个全面的实证分析。具体而言，我们表明当前的深度感知哈希可能并不鲁棒。 adversary可以通过在图像中施加微小改动（由基于梯度的方法诱导或仅通过执行标准图像变换）来操纵哈希值，从而强制或阻止哈希碰撞。此类攻击允许恶意行为者轻易利用检测系统：从隐藏虐待材料到陷害无辜用户，一切皆有可能。此外，利用哈希值，仍可对用户设备上存储的数据进行推断。我们认为，基于我们的结果，当前形式的深度感知哈希通常尚未准备好用于鲁棒的客户端扫描，且从隐私角度不应被使用。
引用
@article{arxiv.2111.06628,
title = {Learning to Break Deep Perceptual Hashing: The Use Case NeuralHash},
author = {Lukas Struppek and Dominik Hintersdorf and Daniel Neider and Kristian Kersting},
journal= {arXiv preprint arXiv:2111.06628},
year = {2024}
}
备注
Accepted by ACM FAccT 2022 as Oral