中文

CURA:规模并非唯一关键——面向设备端的紧凑通用智能架构

机器学习 2025-09-30 v1 信号处理

摘要

现有的面向资源受限环境的设备端 AI 架构存在两个关键局限:其紧凑性不足,参数需求随任务复杂度比例增长;且通用性差,仅能在特定应用领域内有效工作(例如为回归任务设计的模型无法适用于自然语言处理(NLP)应用)。本文提出 CURA 架构,灵感来自类比音频信号处理电路,为跨多个领域的多样化机器学习任务提供紧凑轻量级解决方案。我们的架构相对于现有方法具有三个关键优势:(1)紧凑性:无论任务复杂度如何,所需参数显著减少;(2)通用性:可无缝适配回归、分类、复杂 NLP 和计算机视觉任务;(3)复杂模式识别:能够捕获复杂数据模式,同时保持极低的模型复杂度。我们在多样化数据集和领域对 CURA 进行了评估。对于紧凑性,CURA 采用最高可减少 2500 倍参数量的基线模型即可实现等效准确率。对于通用性,CURA 在四个 NLP 基准测试和一个计算机视觉数据集上表现一致,几乎匹配专用现有模型(F1 分数最高可达 90%)。最后,它在复杂模式预测中实现卓越的预测准确性,平均绝对误差低 1.6 倍,均方误差低 2.1 倍。

关键词

引用

@article{arxiv.2509.24601,
  title  = {CURA: Size Isnt All You Need -- A Compact Universal Architecture for On-Device Intelligence},
  author = {Jae-Bum Seo and Muhammad Salman and Lismer Andres Caceres-Najarro},
  journal= {arXiv preprint arXiv:2509.24601},
  year   = {2025}
}

备注

14 pages, 3 figures, 8 tables