中文

ContextGPT:将 LLM 知识注入神经符号活动识别模型

机器学习 2025-03-24 v2 人工智能 计算与语言

摘要

上下文感知的人类活动识别(HAR)是移动计算中的一个热门研究领域,文献中最有效的解决方案基于监督深度学习模型。然而,这些系统的实际部署受到训练所需标注数据稀缺的限制。神经符号人工智能(NeSy)提供了一个有趣的研究方向,通过将关于人类活动及其执行上下文的常识知识注入 HAR 深度学习分类器来缓解这一问题。现有的用于上下文感知 HAR 的 NeSy 方法依赖于编码在基于逻辑的模型(例如本体)中的知识,这些模型的设计、实施和维护以捕捉新的活动和上下文需要大量的人工工程工作、技术知识和领域专业知识。最近的工作表明,预训练的大型语言模型(LLM)有效地编码了关于人类活动的常识知识。在这项工作中,我们提出了 ContextGPT:一种新颖的提示工程方法,用于从 LLM 中检索关于人类活动与其执行上下文之间关系的常识知识。与本体的不同之处在于,ContextGPT 需要有限的人力和专业知识。在两个公共数据集上进行的广泛评估表明,通过从 ContextGPT 注入常识知识获得的 NeSy 模型在数据稀缺场景中是有效的,其识别率与基于逻辑的方法相当(有时甚至更好),而所需的工作量仅为后者的一小部分。

关键词

引用

@article{arxiv.2403.06586,
  title  = {ContextGPT: Infusing LLMs Knowledge into Neuro-Symbolic Activity Recognition Models},
  author = {Luca Arrotta and Claudio Bettini and Gabriele Civitarese and Michele Fiori},
  journal= {arXiv preprint arXiv:2403.06586},
  year   = {2025}
}