Pocket RAG：面向离线移动环境下基于移动设备的 RAG 急救指导
网络与互联网体系结构
2026-02-17 v1
摘要
在灾难场景或偏远地区，急救人员往往在提供急救时丢失网络连接，导致基于服务器的 AI 系统无法提供关键指导。为此问题，本文提出一种面向小型语言模型(SLM) 的轻量级、基于移动设备的检索增强生成系统，可直接运行在 Android 设备上。我们的系统集成了包含混合 RAG、选择性压缩、批量提示解码和量化缓存的移动友好型优化管道。尽管模型体积较小，我们的 RAG-based 系统在身体急救和心理急救的准确率分别达到 94.5% 和 97.0%。此外，我们将响应时间从 14.2 秒缩短至 3.7 秒，实现近 4 倍的加速。这些结果表明我们的系统是实用的，即使在没有互联网连接的情况下，也能提供可靠的急救指导。
引用
@article{arxiv.2602.13229,
title = {Pocket RAG: On-Device RAG for First Aid Guidance in Offline Mobile Environment},
author = {Dong Ho Kang and Hyunjoon Lee and Hyeonjeong Cha and Minkyu Choi and Sungsoo Lim},
journal= {arXiv preprint arXiv:2602.13229},
year = {2026}
}