T3C：具有一致性保证的测试时张量压缩
计算与语言
2026-01-06 v1 人工智能
计算机视觉与模式识别
摘要
我们提出T3C，一个一次训练、测试时预算条件压缩框架，将秩和精度作为可控的部署旋钮。T3C结合弹性张量分解(保持至最大秩)，秩绑定混合精度量化，以及一个轻量级控制器，将延迟/能耗/大小预算标记映射到每层的秩/位分配；该策略会对硬件对齐的配置文件进行snap，并且在预算上保持单调。从谱代理和激活统计计算的快速、层级一致性证书，上界为logit漂移并正则化训练，产生一种在开销可接受的情况下提供实际可靠性信号的轻量级方法。在ImageNet-1k上，T3C推动了视觉帕累托前沿：对于ResNet-50在匹配准确率(≤0.5%下降)下，p50延迟为1.18ms，模型为38MB，超越PTQ-8b(1.44ms，88MB)；对于ViT-B/16，T3C达到2.30ms p50，59MB，优于强大的PTQ/QAT基线。单个T3C检查点因此在需求时为不同设备提供可预测、证书背书的准确率-延迟-大小权衡。
引用
@article{arxiv.2601.01299,
title = {T3C: Test-Time Tensor Compression with Consistency Guarantees},
author = {Ismail Lamaakal and Chaymae Yahyati and Yassine Maleh and Khalid El Makkaoui and Ibrahim Ouahbi},
journal= {arXiv preprint arXiv:2601.01299},
year = {2026}
}