中文

记录第一人称体验以构建新型基础模型

人工智能 2024-08-07 v1 人机交互 机器学习

摘要

基础模型在近年来产生了巨大影响,当前AI热潮中有数十亿美元的投入。最流行的模型,如Chat-GPT,都是在大规模互联网数据上训练的。然而,逐渐显现出这种数据可能会很快被耗尽,技术公司正在寻找新的训练数据来源以打造下一代基础模型。强化学习、RAG、提示工程和认知建模常用于微调和增强基础模型的行为。这些技术已用于复制人类,如Caryn Marjorie。这些聊天机器人并非基于用户对环境的真实情感和生理反应,因此最多只能是对所模仿人物表现的表层近似。为解决这些问题,我们开发了一种记录装置,捕获佩戴者看到的东西和听到的声音,以及皮肤电导反应(GSR)、面部表情和脑状态(14通道EEG)。AI算法用于将这些数据处理为环境和主体内部状态的丰富图景。基于该数据训练的基础模型能够更准确地复制人类行为,优于迄今为止开发的那些模型。这一模型具有诸多潜在应用,包括推荐、个人助理、GAN系统、约会和招聘等。本文提供一些背景资料,描述了记录装置及其功能初步测试。随后,我们提出了如何从记录装置捕获的数据中创建新型基础模型的构想,并概述了一些应用。由于数据收集和模型训练成本高昂,我们目前正在为该项目的下一阶段筹集资金,正在启动一家初创公司。

关键词

引用

@article{arxiv.2408.02680,
  title  = {Recording First-person Experiences to Build a New Type of Foundation Model},
  author = {Dionis Barcari and David Gamez and Aliya Grig},
  journal= {arXiv preprint arXiv:2408.02680},
  year   = {2024}
}

备注

5 pages, 5 figures, 3 tables. arXiv admin note: substantial text overlap with arXiv:2408.00030