精确量化用于行走表示学习
计算机视觉与模式识别
2026-03-24 v3
摘要
现有深度学习方法在行走表示学习方面取得了显著进展。量化可以促进行走模型作为模型无关的通用压缩技术的应用。通常情况下,基于外观的模型会将输入二值化为行走序列。然而,主流量化方法侧重于最小化任务损失而非量化误差,这对以二值化输入进行的行走表示学习不利。为此,我们提出一种可微软量化器,更好地模拟反向传播过程中圆函数的梯度。这使网络能够从细微输入扰动中学习。然而,我们的理论分析和实证研究表明,直接应用软量化器会阻碍网络收敛。我们通过采用两阶段训练策略,在微调阶段引入软量化器来解决此问题。然而,在训练的第一个阶段,我们注意到与全精度网络相比,不同样本在特征空间中的输出分布发生了显著变化。这导致性能下降。基于此,我们提出一种面向类间距离的校准(IDC)策略,以保持不同标签样本嵌入之间的相对距离。广泛的实验验证了我们方法的有效性,展示了在各种设置和数据集上的领先准确率。
引用
@article{arxiv.2405.13859,
title = {Accurate Quantization for Gait Representation Learning},
author = {S. Tian and H. Gao and G. Hong and S. Wang and J. Wang and X. Yu and S. Zhang},
journal= {arXiv preprint arXiv:2405.13859},
year = {2026}
}