边缘设备上的嵌入式AI伴侣系统
计算机视觉与模式识别
2026-01-14 v1 人工智能
摘要
边缘设备的计算资源受限，难以开发出满意用户体验的全嵌入式AI伴侣系统。现有文献中的AI伴侣和记忆系统由于缺乏计算资源和延迟问题，无法直接用于此类环境。本文提出一种记忆范式，交替处于活跃与非活跃相位：在用户活跃时，系统使用对现有记忆和上下文的轻量级检索，实现低延迟、实时对话；而在用户非活跃时，系统进行更密集的提取、整合和维护，跨越完整对话session。该设计最小化延迟，同时在嵌入式硬件的严格限制下保持长期个性化。我们还引入了一个AI伴侣基准，全面评估AI伴侣的对话质量和记忆能力。在实验中，我们发现该系统（使用非常弱的模型：Qwen2.5-7B-Instruct量化int4）在大多数指标上均优于等效的原始LLM，性能相当于GPT-3.5配16k上下文窗口。
引用
@article{arxiv.2601.08127,
title = {PathoGen: Diffusion-Based Synthesis of Realistic Lesions in Histopathology Images},
author = {Mohamad Koohi-Moghadam and Mohammad-Ali Nikouei Mahani and Kyongtae Tyler Bae},
journal= {arXiv preprint arXiv:2601.08127},
year = {2026}
}
备注
17 pages, 5 figures