HUOZIIME:基于大语言模型的设备内增强输入法
计算与语言
2026-04-17 v1 人工智能
摘要
移动输入法编辑器(IME)是文本输入的主要接口,然而它们仍受限于手动输入,难以生成个性化文本。虽然轻量级大语言模型(LLM)使基于设备的辅助生成变得可行,实现深层次个性化、隐私保护且实时的增强式IME存在根本性挑战。为此,我们提出HUOZIIME,一个由LLM驱动的个性化设备内IME。我们通过在合成的个性化数据上对基础LLM进行后训练,赋予其初始的人类化预测能力。值得注意的是,设计了层次化记忆机制,以持续捕获和利用用户特定的输入历史。此外,我们针对基于设备的LLM式IME部署进行系统优化,确保在移动约束下实现高效和响应迅速。实验表明,设备内执行高效,记忆驱动的个性化效果显著。代码和软件包已公开于https://github.com/Shan-HIT/HuoziIME。
引用
@article{arxiv.2604.14159,
title = {HUOZIIME: An On-Device LLM-enhanced Input Method for Deep Personalization},
author = {Baocai Shan and Yuzhuang Xu and Wanxiang Che},
journal= {arXiv preprint arXiv:2604.14159},
year = {2026}
}