通过对抗性攻击揭示数字人类生成中的隐藏漏洞
计算机视觉与模式识别
2025-12-01 v2
摘要
表达的人体姿态和形状估计（EHPS）对于数字人类生成至为关键，尤其是在直播等应用中。虽然现有研究主要关注减少估计误差，但很大程度上忽视了鲁棒性和安全方面，使这些系统暴露于对抗性攻击之下。为此，我们提出了一种名为TBA（Tangible Attack）的新型框架，用于生成能够有效破坏任何数字人类生成模型的对抗性样本。我们的方法引入了双异构噪声生成器（DHNG），它利用变分自编码器（VAE）和ControlNet生产针对原图特征的多样化、定向噪声。此外，我们设计了自定义的对抗损失函数以优化噪声，确保其具有高度可控性和强大的干扰能力。通过从噪声和最先进的EHPS模型多个梯度信号不断细化对抗样本，TBA显著提高了对抗攻击的有效性。大量实验表明，TBA的优势显著，实现了约41.0%的估计误差增加，平均提升约17.0%。这些发现揭示了当前EHPS模型存在的重大安全漏洞，凸显了在数字人类生成系统中需要更强防御的必要性。
引用
@article{arxiv.2504.17457,
title = {Unveiling Hidden Vulnerabilities in Digital Human Generation via Adversarial Attacks},
author = {Zhiying Li and Yeying Jin and Fan Shen and Zhi Liu and Weibin Chen and Pengju Zhang and Xiaomei Zhang and Boyu Chen and Michael Shen and Kejian Wu and Zhaoxin Fan and Jin Dong},
journal= {arXiv preprint arXiv:2504.17457},
year = {2025}
}
备注
14 pages, 7 figures