CoSense-LLM：面向成本与不确定性感知的云边协作语义边缘计算
摘要
我们提出了 CoSense-LLM，一个面向边缘的框架，将连续的多模态传感器流（例如 Wi-Fi CSI、IMU、音频、RFID 和轻量级视觉）转换为紧凑、可验证的语义 token，并在明确的延迟、能耗、带宽和隐私约束下与大语言模型协作。CoSense-LLM 包含四个组成部分：(i) SenseFusion，一种轻量级编码器，将传感器嵌入与语言对齐并压缩为短离散代码序列；(ii) Edge-RAG，一种本地混合检索层，基于特定站点的政策和笔记进行 grounding；(iii) PromptRouter，一种面向成本和不确定性的策略，用于选择仅边缘生成、边缘检索或紧凑云端升级；(iv) Secure Execution，一种可审计的脱敏路径，用于强制执行数据最小化，确保原始波形永远不会离开设备。该系统支持现代serving优化，包括分页或流式 KV 缓存、FlashAttention 风格的内核、推测解码和量化 LoRA 适配器，并支持在非 IID 漂移下进行设备端个性化和联邦更新。在家庭、办公室和诊所部署中，CoSense-LLM 在满足严格服务水平目标的同时，提供了 grounded 解释：在边缘主导路径上实现亚秒级（p95）端到端延迟，优先选择基于本地检索的 grounding 响应，显著降低跨层级 token 和带宽成本，仅传输离散代码和已脱敏元数据，确保隐私。消融实验表明，Edge-RAG 改善了事实一致性并减少了矛盾，校准的不确定性实现了选择性退让和受控升级，KV 缓存和解码加速器降低了每个决策的能耗。这些结果支持一种以语义、隐私和可预测延迟为共同目标的边缘优先设计，适用于干扰环境下的大模型部署。
引用
@article{arxiv.2510.19670,
title = {CoSense-LLM: Semantics at the Edge with Cost- and Uncertainty-Aware Cloud-Edge Cooperation},
author = {Hasan Akgul and Mari Eplik and Javier Rojas and Aina Binti Abdullah and Pieter van der Merwe},
journal= {arXiv preprint arXiv:2510.19670},
year = {2026}
}
备注
arXiv admin note: This paper has been withdrawn by arXiv due to unverifiable authorship and affiliation