世界模型规划中比特的分配:面向高效空间推理的配对混合比特研究
机器学习
2026-02-13 v1 人工智能
计算机视觉与模式识别
机器人学
摘要
高效的空间推理需要世界模型在严格的精度预算下保持可靠性。我们研究了低比特规划行为主要取决于总比特宽度还是比特在各模块间的分配。在Wall规划任务上使用DINO-WM,我们在两种规划器预算下,对均匀、混合、非对称和逐层变体进行了配对目标混合比特评估。我们观察到一致的三阶段模式:8比特和6比特设置接近FP16,3比特设置崩溃,而4比特设置对分配敏感。在该过渡区域,保留编码器精度相对于均匀量化改善了规划性能,且近尺寸非对称变体表现出相同的编码器侧方向。在后续严格的22单元复制实验(每个单元的情节数更小)中,混合与均匀INT4的符号变得依赖于预算条件,这进一步凸显了该过渡区域的敏感性。这些发现激励了面向高效空间推理的更广泛研究方向——模块感知、预算感知的量化策略。代码和运行工件可在 https://github.com/suraj-ranganath/DINO-MBQuant 获取。
引用
@article{arxiv.2602.11882,
title = {Where Bits Matter in World Model Planning: A Paired Mixed-Bit Study for Efficient Spatial Reasoning},
author = {Suraj Ranganath and Anish Patnaik and Vaishak Menon},
journal= {arXiv preprint arXiv:2602.11882},
year = {2026}
}
备注
Workshop submission