面向移动设备的实时直播聊天翻译的实证研究
人工智能
2026-01-07 v1
摘要
尽管其效率高效，关于实时部署于设备端 AI 模型的实际问题却鲜有研究，如设备的 CPU 利用率和热条件。本文通过大量实验，调查了为实现设备端模型在现实服务中部署所必须解决的两个关键问题：(i) 设备端模型的选择及各模型的资源消耗，以及 (ii) 设备端模型在领域适应方面的能力与潜力。为此，我们聚焦于翻译直播聊天消息的任务，手动构建了 LiveChatBench—a 由 1000 组韩语-英语平行句子组成的基准数据集。五台移动设备上的实验表明，尽管为服务大规模且异构的用户群体需要仔细考虑高度受限的部署环境和模型选择，但所提出的方法在针对性强的任务上，性能可与商业模型如 GPT-5.1 相当。我们期望我们的发现将为设备端 AI 社区提供有意义的洞见。
引用
@article{arxiv.2601.02641,
title = {An Empirical Study of On-Device Translation for Real-Time Live-Stream Chat on Mobile Devices},
author = {Jeiyoon Park and Daehwan Lee and Changmin Yeo and Yongshin Han and Minseop Kim},
journal= {arXiv preprint arXiv:2601.02641},
year = {2026}
}
备注
preprint