中文

别从零开始:基于可解释模型选择加速设备端LLM个性化

机器学习 2025-06-10 v1 人工智能 计算与语言 人机交互

摘要

大型语言模型(LLM)的个性化在实际应用中至关重要,以满足不同移动用户的个人需求。由于数据隐私 concerns,LLM个性化通常需在用户移动设备上本地化完成,但这种做法受限于设备计算能力的限制以及用户个人数据的不足。在本文中,我们通过对已个性化的LLM进行用户个人数据的微调,解决了上述限制,并提出了XPerT——一种新技术,基于它们被微调方式的可解释性确保选择这些已个性化LLM。我们在各种智能手机型号上实现并评估了XPerT,并实验结果表明,XPerT将设备端LLM个性化的计算成本降低83%,数据效率提高51%。

关键词

引用

@article{arxiv.2504.13938,
  title  = {Never Start from Scratch: Expediting On-Device LLM Personalization via Explainable Model Selection},
  author = {Haoming Wang and Boyuan Yang and Xiangyu Yin and Wei Gao},
  journal= {arXiv preprint arXiv:2504.13938},
  year   = {2025}
}

备注

15 pages