LLM 中介 ubiquitous 系统中的权威反转：当模型信任用户而非传感器
人工智能
2026-05-26 v1 计算机与社会
机器学习
摘要
大型语言模型 (LLM) 越来越融合来自 ubiquitous 系统中异构的输入。然而，LLM 在传感器测量值与用户声称内容冲突时隐式分配权威的方式尚未得到探讨，这引发了关于物理感知应保留优先权的可靠性问题。不同于显式的传统融合，LLM 将权威分配隐藏在学习表示中。我们发现，这种分配严重依赖格式：数值型传感器数据难以融入答案相关的模型方向，导致自然语言声称主导最终决策，一种我们称之为"权威反转"的现象。为诊断和缓解此现象，我们构建了上下文集成的几何框架，引入两项可计算审计指标，即情境集成比率 (CIR) 和权威对齐指数 (AAI)，并提出几何权威校准 (GAC)，这是一种在推理时进行的层级干预，以抑制误位的用户权威。评估了四个模型（参数量从 4B 到 35B，三个架构）在四个数据集上共计 576 个冲突实例，结果显示严重的权威反转：在数值任务中，模型表现出接近零的传感器信任度（AAI = -0.805，Cohen's d = -2.14），且模型容量并未产生影响。验证了我们的几何框架，理论引导的因果注入将错误决策的 80.2% 翻转（相较于随机控制的 <0.4%）。在实际应用中，GAC 将 HAR 准确率从 0 -- 1.6% 提升至 21.9 -- 27.5%，超越了提示基线。最终，LLM 中介系统中的权威分配必须被明确审计和应用特定配置，而非留给隐式处理。
引用
@article{arxiv.2605.23938,
title = {Authority Inversion in LLM-Mediated Ubiquitous Systems: When Models Trust Users Over Sensors},
author = {Long Zhang and Zi-bo Qin and Wei-neng Chen},
journal= {arXiv preprint arXiv:2605.23938},
year = {2026}
}