基于基础模型的免调参对象命名
计算与语言
2024-02-27 v2 人工智能
摘要
我们实现了一个实时对象命名系统,能够学习一组从未见过的命名实体。我们的方法采用一个现有的基础模型,我们认为其在启动前已准备好识别任何事物。它将所见图像转化为相对较小的特征向量,我们将其与逐步构建的词汇表索引相关联,而无需对模型进行任何训练或微调。我们的贡献在于使用了从 transformer 中已知的关联机制——注意力。它具有支持从无关信息中泛化以区分实体、并潜在地支持关联远多于词汇表索引的特征。因此,该系统能以单次方式工作,并正确命名不同内容中提及的对象。我们还概述了由黑板架构集成的系统模块的实现细节。最后,我们考察了系统的质量,主要是其以此方式可处理的对象数量。
引用
@article{arxiv.2311.04924,
title = {Tuning-less Object Naming with a Foundation Model},
author = {Andrej Lucny and Pavel Petrovic},
journal= {arXiv preprint arXiv:2311.04924},
year = {2024}
}
备注
This work was funded (or co-funded) by the Horizon-Widera-2021 European Twinning project TERAIS G.A. n. 101079338 World Symposium on Digital Intelligence for Systems and Machines (DISA2023), Kosice, September 21-22, 2023 citations: https://ieeexplore.ieee.org/document/10308905 codes: https://github.com/andylucny/whatisthis, https://doi.org/10.5281/zenodo.10702868 7 pages, 9 figures, 0 tables