中文

当 W4A4 破坏伪装物体检测:基于 Token 组双约束激活量化

计算机视觉与模式识别 2026-04-21 v1

摘要

伪装物体检测(COD)分割有意与背景混合的对象,因此预测依赖于细微的纹理和边界线索。在紧张的设备内存和延迟预算下,COD 常需要进行低比特推理,这使得低位推理极具吸引力。然而,COD 的量化压力异常大。我们研究了基于 Transformer 的 COD 的后训练 W4A4 量化,发现该任务具有特定的临界值:重尾背景 Token 主导共享的激活范围,导致步长膨胀,并将弱但结构化的边界线索推入零区间。这暴露了一种 token 局部瓶颈——消除跨 Token 范围支配并将 4 位激活下的零区间质量受限。在此基础上,我们提出了 COD-TDQ,即 COD 感知 Token 组双约束激活量化方法。COD-TDQ 通过两个耦合步骤解决该 token 局部瓶颈:Direct-Sum Token-Group(DSTG)分配 token 组比例以抑制跨 Token 范围支配,Dual-Constraint Range Projection(DCRP)投影每个 token 组的裁剪范围以保持步幅-分散率和零区间质量受控。在四个 COD 基准测试和两个基线模型(CFRN 和 ESCNet)上,COD-TDQ 相较于最先进的量化方法(无需重新训练)始终实现超过 0.12 的 S{\alpha}score 提升。该代码将公开发布。

关键词

引用

@article{arxiv.2604.16855,
  title  = {When W4A4 Breaks Camouflaged Object Detection: Token-Group Dual-Constraint Activation Quantization},
  author = {Tianqi Li and Wenyu Fang and Xin He and Xue Geng and Xu Cheng and Yun Liu},
  journal= {arXiv preprint arXiv:2604.16855},
  year   = {2026}
}