利用 DistilBERT 提升 QA 效率：在移动端 Intel CPU 上的微调与推理
计算与语言
2025-05-30 v1
摘要
本研究提出了一种高效的基于 Transformer 的问答（QA）模型，使用 Stanford Question Answering Dataset (SQuAD) v1.1 进行优化，以部署在第 13 代 Intel i7-1355U CPU 上。利用探索性数据分析、数据增强和 DistilBERT 架构的微调，该模型实现了 0.6536 的验证 F1 分数，每个问题的平均推理时间为 0.1208 秒。与基于规则的基线（F1: 0.3124）和完整的基于 BERT 的模型相比，我们的方法在准确性和计算效率之间提供了有利的权衡。这使其非常适合在资源受限的系统上进行实时应用。该研究包括对数据增强策略和超参数配置的系统评估，为优化基于 CPU 推理的 Transformer 模型提供了实用见解。
引用
@article{arxiv.2505.22937,
title = {Improving QA Efficiency with DistilBERT: Fine-Tuning and Inference on mobile Intel CPUs},
author = {Ngeyen Yinkfu},
journal= {arXiv preprint arXiv:2505.22937},
year = {2025}
}
备注
This paper presents an efficient transformer-based question-answering model optimized for inference on a 13th Gen Intel i7 CPU. The proposed approach balances performance and computational efficiency, making it suitable for real-time applications on resource-constrained devices. Code for this paper is available upon request via email at [email protected]