Sent2Matrix:将字符序列折叠为蛇形流形以实现二维句子表示
计算与语言
2021-03-16 v1 机器学习
摘要
我们研究使用深度模型的文本表示方法。当前方法,如词级嵌入和字符级嵌入方案,将文本视为原子词序列或字符序列。这些方法要么忽略词形态要么忽略词边界。为克服这些局限,我们提出将文本转换为二维表示并开发了 Sent2Matrix 方法。我们的方法允许显式地结合词形态与词边界。当与一种新颖的蛇形填充方法结合时,我们的 Sent2Matrix 方法产生了一种有趣的可视化,其中一维字符序列被折叠为二维蛇形流形。值得注意的是,我们的方法是首次尝试以二维格式表示文本。在文本分类任务上的实验结果表明,我们的方法持续优于先前的嵌入方法。
引用
@article{arxiv.2103.08387,
title = {Sent2Matrix: Folding Character Sequences in Serpentine Manifolds for Two-Dimensional Sentence},
author = {Hongyang Gao and Yi Liu and Xuan Zhang and Shuiwang Ji},
journal= {arXiv preprint arXiv:2103.08387},
year = {2021}
}
备注
8 pages