我们能为长尾生物医学知识编辑 LLM 吗？
计算与语言
2025-04-15 v1 人工智能
摘要
知识编辑已成为更新大型语言模型(LLM)的有效方法，通过修改其内部知识来实现。然而，其在生物医学领域的应用面临独特挑战，由于生物医学知识呈长尾分布，其中稀有且不常见的信息占比很大。本文开展首个全面研究，探讨知识编辑方法在处理长尾生物医学知识方面的有效性。我们的结果表明，尽管现有编辑方法能够提升 LLM 在长尾生物医学知识上的表现，但即便经编辑后，其在长尾知识上的表现仍不及在高频流行知识上的表现。进一步的分析揭示，长尾生物医学知识包含大量一对多知识，其中一个主题和关系链接到多个对象。这种一对多知识的高普遍性限制了知识编辑提高 LLM 对长尾生物医学知识理解能力的效果，凸显了有针对性策略在弥合这一绩效差距方面的必要性。
引用
@article{arxiv.2504.10421,
title = {Can We Edit LLMs for Long-Tail Biomedical Knowledge?},
author = {Xinhao Yi and Jake Lever and Kevin Bryson and Zaiqiao Meng},
journal= {arXiv preprint arXiv:2504.10421},
year = {2025}
}