基于领域专用 CNN 加速器的跨视觉与文本迁移学习系统演示:面向端侧 NLP 应用
计算与语言
2019-06-05 v1
摘要
低功耗的 CNN 领域专用加速器(CNN-DSA)芯片目前已广泛用于移动设备。这些芯片主要用于计算机视觉应用。然而,近期提出的 Super Characters 方法利用二维 CNN 模型,通过从视觉到文本的迁移学习,在文本分类与情感分析任务上也取得了最先进(state-of-the-art)的结果。在本文中,我们使用 CNN-DSA 芯片在移动设备上实现了文本分类与情感分析应用。CNN-DSA 芯片采用系数 1 位与 3 位精度、激活 5 位精度的紧凑网络表示,功耗低于 300mW。对于受内存与计算约束的边缘设备,通过近似 CNN-DSA 芯片内部的外部全连接(FC)层进一步压缩网络。在研讨会上,我们展示了两个面向 NLP 任务的系统演示。第一个演示将输入的英文维基百科句子分类为 14 个本体之一。第二个演示将中文网络购物评论分类为正面或负面。
引用
@article{arxiv.1906.01145,
title = {System Demo for Transfer Learning across Vision and Text using Domain Specific CNN Accelerator for On-Device NLP Applications},
author = {Baohua Sun and Lin Yang and Michael Lin and Wenhan Zhang and Patrick Dong and Charles Young and Jason Dong},
journal= {arXiv preprint arXiv:1906.01145},
year = {2019}
}
备注
Four pages, four figures, one table. Accepted by IJCAI2019 Tusion Workshop