我们漏掉的 deepfake：为一场并未到来的威胁构建检测器

近十年的机器学习（ML）deepfake 检测研究围绕着源自 2017--2019 年的威胁模型展开，后者聚焦于面对公众人物的人脸置换和说话头视频操纵，动机在于大规模误信息和视频证据欺诈的担忧。本立场论文认为，该领域为之做好准备的威胁并未到来，实际到来的威胁则截然不同。对 2022--2026 年 deepfake 事件的 accounting 显示，主导观察到的伤害包括：同伴生成的非同意亲密影像（NCII）、针对家庭和金融工作人员的语音克隆诈骗电话，以及情感操纵型诈骗。预测的大规模公众人物 deepfake 灾难在 2024 年全球信息环境中并未实现，尽管进行了广泛的准备。与此同时，研究工作、基准和检测方法仍集中在继承的威胁模型上。本文的核心论点是，这种误对齐现象如今已成为真实世界 deepfake 防御的主要瓶颈，而非模型能力。我们认为 ML 研究社区应大幅重新平衡其研究议程，聚焦实际增长的伤害类别。我们以实证 accounting 说明研究工作量和伤害分布，阐明这种误对齐持续存在的结构性原因，并概述针对尚未得到充分防御的伤害类别的三个具体技术研究议程。