面向智能城市数据融合与多任务学习的 Transformer 框架
机器学习
2022-11-22 v1
摘要
快速全球化城市化是一把双刃剑，既预示着经济繁荣与公共健康的前景，也带来独特的环境与人道主义挑战。智能互联社区（S&CCs）通过融合人工智能（AI）与物联网（IoT）将这些问题的以数据为中心的解决方案付诸应用。这种智能技术的耦合也带来了关于异构数据融合与任务多样性的有趣系统设计挑战。鉴于 Transformer 在自然语言处理（NLP）、计算机视觉、时间序列回归和多模态数据融合等诸多领域的成功，其尤为引人关注以应对这些问题。这引出一个问题：Transformer 能否被进一步多样化，以利用 IoT 数据源的融合用于 S&CC 权衡空间中的异构多任务学习。本文提出一种用于新兴智能城市的基于 Transformer 的 AI 系统。该系统采用纯编码器主干设计，并通过可互换的输入嵌入与输出任务头进一步定制，支持 S&CCs 中几乎任意存在的输入数据与输出任务类型。这种通用性通过学习代表 S&CC 环境的多样化任务集得到展示，包括多元时间序列回归、视觉植物病害分类，以及使用北京 PM2.5 与 Plant Village 数据集组合的图像-时间序列融合任务。仿真结果表明，所提出的基于 Transformer 的系统可通过自定义序列嵌入技术处理各类输入数据类型，并天然适用于学习多样化任务集。结果还显示，多任务学习器在保持与单任务变体及非 Transformer 基线相当性能的同时，提升了内存与计算效率。
引用
@article{arxiv.2211.10506,
title = {A Transformer Framework for Data Fusion and Multi-Task Learning in Smart Cities},
author = {Alexander C. DeRieux and Walid Saad and Wangda Zuo and Rachmawan Budiarto and Mochamad Donny Koerniawan and Dwi Novitasari},
journal= {arXiv preprint arXiv:2211.10506},
year = {2022}
}
备注
14 pages, 10 figures, 3 tables