点云条件3D扩散变换器中的熔断:电路与分叉
机器学习
2026-05-19 v2 计算机视觉与模式识别
摘要
稀疏点云是3D表面重建中常见的输入模态,包括手术导航和自主感知等安全关键场景。在这些场景中,最近的点云条件3D扩散变换器通过利用学习到的先验条件实现了该领域的状态突破。我们展示,这些模型在现实输入变化下会发生灾难性失败,并对其背后的机制进行机械学案例研究。我们识别了一种被称为熔断(Meltdown)的失效模式:对稀疏输入点云进行微小的表面扰动即可使重建输出在数百个不相连的碎片中被破碎。对抗性搜索在两个开源SOTA架构(WaLa、Make-a-Shape)上的两个真实数据集(GSO、SimJEB)以及DDPM和DDIM采样下,几乎可恢复熔断(89.9-100%)。我们沿着前向传递路径追踪熔断:它由点在表面上的均匀分布如何被传递给点云编码器,以及由扩散主干中的单一早期去噪跨注意力写入所致。扩散轨迹集合在该提交步骤附近表现出对称性破坏,符合逆过程的分叉。通过一系列匹配幅度的控制,我们表明,模型提交的变量是方向性的,集中在写入扰动漂移的低秩子空间中。
引用
@article{arxiv.2602.11130,
title = {Meltdown: Circuits and Bifurcations in Point-Cloud-Conditioned 3D Diffusion Transformers},
author = {Maximilian Plattner and Fabian Paischer and Johannes Brandstetter and Arturs Berzins},
journal= {arXiv preprint arXiv:2602.11130},
year = {2026}
}