CUBO：面向消费级笔记本的自包含检索增强生成
计算与语言
2026-02-04 v1
摘要
处理敏感文档的组织面临一种矛盾：云端 AI 存在GDPR违规风险，而本地系统通常需要18-32 GB内存。本文提出CUBO，一个面向16 GB共享内存消费级笔记本的RAG平台。CUBO的创新之处在于工程化集成流式导入(O(1) 缓冲开销)、分层混合检索和硬件感知编排，使其在严格的15.5 GB内存上限下，能够实现BEIR基准域中0.48-0.97的Recall@10。该 codebase 包含37,000行代码，实现C1,300笔记本上的185毫秒(p50)检索延迟，同时通过本地唯一处理实现数据最小化，符合GDPR第5条第1款第(c)项。BEIR基准的评估验证了其针对小型至中型专业档案的实际可部署性。该 codebase 已公开于 https://github.com/PaoloAstrino/CUBO。
引用
@article{arxiv.2602.03731,
title = {CUBO: Self-Contained Retrieval-Augmented Generation on Consumer Laptops 10 GB Corpora, 16 GB RAM, Single-Device Deployment},
author = {Paolo Astrino},
journal= {arXiv preprint arXiv:2602.03731},
year = {2026}
}
备注
24 pages, 2 figures, 6 tables