量化改变了语言模型的元认知几何结构

我们报告称，模型量化是重新构架大语言模型中领域级别的元认知效率，而非均匀降低其性能。评估 Llama-3-8B-Instruct 在 Q5_K_M 和 f16 两种精度下对同一 3000 个问题进行测试，我们发现四个知识领域的 M 比率轮廓在两种格式之间无相关性（Spearman rho = 0.00）。艺术与文学领域从 Q5_K_M 下最不被监控（M 比率 = 0.606）转变为 f16 上最被监控（1.542），而地理学领域则从被良好监控（1.210）变为不被监控（0.798）。然而，Type-2 AUROC 轮廓在两种格式下完全稳定（rho = 1.00），将结构性变革局限于 M 比率标准化，而非底层判别信号。该发现源于一次旨在通过领域条件化训练提升元认知能力的预注册实验。我们为诊断出的弱领域采用置信度放大指令微调（confidence-amplification SFT），并设置了匹配预算的无关和错误处方控制组。所有四个确认性假设都未被拒绝（10,000 次 bootstrap 重抽样，随机种子 = 42）。该训练成功重塑了置信度分布，将科学领域中的 NLP 差距从 0.076 增大至 0.152，但未提升 meta-d'，因为诊断轮廓未在不同格式之间传递。任何依赖领域级别 M 比率轮廓的系统都存在未被检视的推断格式依赖性。采用 AUROC_2 的系统更为安全。我们发布了所有代码、预注册资料及试验级数据。