结合深度学习与字符串核的瑞士德语推文定位
计算与语言
2020-10-09 v1
摘要
本工作中，我们介绍 UnibucKernel 团队在解决 2020 年 VarDial 评测活动中社交媒体变体地理定位任务所提出的方法。我们仅处理第二个子任务，其目标数据集由近 3 万条瑞士德语 Jodels 组成。该方言识别任务旨在准确预测测试样本的纬度与经度。我们将该任务构建为一个双重回归问题，采用多种机器学习方法预测纬度和经度。从简单的回归模型（如支持向量回归）到深度神经网络（如长短期记忆网络与字符级卷积神经网络），再到基于元学习器（如 XGBoost）的集成模型，我们的兴趣聚焦于从若干不同视角切入该问题，以力图最小化预测误差。出于同样目标，我们还考量了多种特征，从高层特征（如 BERT 嵌入）到低层特征（如字符 n-gram），后者在方言识别中已知能取得良好结果。我们的实证结果表明，基于字符串核的手工模型优于深度学习方法。尽管如此，我们的最佳性能由结合手工模型与深度学习模型的集成模型给出。
引用
@article{arxiv.2010.03614,
title = {Combining Deep Learning and String Kernels for the Localization of Swiss German Tweets},
author = {Mihaela Gaman and Radu Tudor Ionescu},
journal= {arXiv preprint arXiv:2010.03614},
year = {2020}
}
备注
Accepted at VarDial 2020