大语言模型（LLM）应用中的挑战与影响因素
计算与语言
2023-10-23 v1 人工智能
摘要
随着 GPT 系列等大语言模型（LLM）的发展，其在各类应用场景中的广泛使用带来诸多挑战。本综述首先探讨了领域特异性问题，即 LLM 可能难以对细分领域的专业问题给出精确回答。知识遗忘问题指这些 LLM 可能难以平衡新旧信息。知识重复现象表明，LLM 有时会给出过于机械、缺乏深度与原创性的回复。此外，知识幻觉描述了 LLM 可能提供看似深刻实则肤浅的答案，而知识毒性则关注有害或有偏见的输出信息。这些挑战凸显了 LLM 训练数据与算法设计中的问题。为解决这些问题，建议丰富训练数据多样性、微调模型、增强透明性与可解释性，并引入伦理与公平性训练。未来技术趋势可能倾向于迭代方法、多模态学习、模型个性化与定制，以及实时学习与反馈机制。总之，未来 LLM 应优先考虑公平性、透明性与伦理，确保在服务人类时秉持较高的道德与伦理标准。
引用
@article{arxiv.2310.13343,
title = {Challenges and Contributing Factors in the Utilization of Large Language Models (LLMs)},
author = {Xiaoliang Chen and Liangbin Li and Le Chang and Yunhe Huang and Yuxuan Zhao and Yuxiao Zhang and Dinuo Li},
journal= {arXiv preprint arXiv:2310.13343},
year = {2023}
}