论图像到3D模型中有害几何体的生成与缓解
密码学与安全
2026-05-12 v1 计算机视觉与模式识别
摘要
图像到3D模型的最新进展显著提升了3D内容创建的保真度与可及性。这种实现创意设计的强大重建能力也可能被对手滥用以生成有害几何体，这些几何体可通过3D打印进一步制造并带来现实世界风险。然而，此类风险在很大程度上尚未被探索：目前尚不清楚现有图像到3D模型在生成这些有害几何体方面能力如何，以及现有防护措施能否可靠地阻止此类生成。为填补这一空白，我们对有害几何体的生成与缓解进行了系统的测量研究。我们首先通过三类不安全类别描述该风险：直接使用的物理危害、危险模板或组件，以及欺骗性复制品。每个类别均用代表性物体实例化。我们在原始、退化、视点偏移和语义伪装输入下评估了开源和商业图像到3D模型。我们考虑了不同的评估指标，包括几何有效性、基于多视角 VLM 的语义评分、针对性人工验证以及受控物理制造。结果揭示了一个令人担忧的现实：当前图像到3D模型能有效重建有害几何体，而仅有不到 0.3% 的此类几何体会触发商业审核标记。作为缓解的第一步，我们评估了三类代表性防护族，包括输入审核、模型级良性对齐和输出级过滤。我们发现现有防护措施存在明显弱点。我们进一步开发了一种堆叠防御方法，可将有害内容保留率降至 <1%，但整体误报成本仍达 11%。总而言之，我们的发现揭示了当前系统存在的风险，并鼓励开发更好的几何感知审核防护措施。
引用
@article{arxiv.2605.09606,
title = {On the Generation and Mitigation of Harmful Geometry in Image-to-3D Models},
author = {Yule Liu and Yilong Yang and Jiale Teng and Hanze Jia and Zeren Luo and Jingyi Zheng and Zifan Peng and Ke Li and Yifan Liao and Zhen Sun and Jiaheng Wei and Yang Liu and Zhuo Ma and Xinlei He},
journal= {arXiv preprint arXiv:2605.09606},
year = {2026}
}