一种用于问题分类的集成方法：融合 Electra Transformer、GloVe 与 LSTM
计算与语言
2023-10-31 v3 人工智能
机器学习
摘要
自然语言处理（NLP）已成为理解和生成人类语言的关键技术，在机器翻译、情感分析以及更密切相关的问题分类等任务中发挥着重要作用。作为 NLP 的一个子领域，问题分类致力于确定所寻求信息的类型，这是问答系统等下游应用的基础步骤。本研究提出了一种创新的问题分类集成方法，结合了 Electra、GloVe 和 LSTM 模型的优势。该模型在广受认可的 TREC 数据集上进行了严格测试，展示了这些不同技术的融合如何带来更优的结果。Electra 带来了基于 Transformer 的复杂语言理解能力，GloVe 提供用于捕捉词级语义的全局向量表示，LSTM 则贡献其序列学习能力以建模长期依赖关系。通过策略性地融合这些要素，我们的集成模型为复杂的问题分类任务提供了鲁棒且高效的解决方案。通过与 BERT、RoBERTa 和 DistilBERT 等知名模型的严格比较，该集成方法在测试数据集上取得了 80% 的准确率，验证了其有效性。
引用
@article{arxiv.2308.06828,
title = {An Ensemble Approach to Question Classification: Integrating Electra Transformer, GloVe, and LSTM},
author = {Sanad Aburass and Osama Dorgham and Maha Abu Rumman},
journal= {arXiv preprint arXiv:2308.06828},
year = {2023}
}