大语言模型中创造力与现实性权衡的数学抽象
计算与语言
2023-06-06 v1 机器学习
摘要
大语言模型（LLM）因其在面向人类任务和传统自然语言处理任务中的卓越能力而广受欢迎。其高效运作归功于 Transformer 架构中的注意力机制，使其能专注于输入的特定部分。LLM 越来越多地用于生成散文、诗歌或艺术等需要模型具有创造力的领域（例如 Adobe firefly）。LLM 拥有先进的语言生成能力，能够生成独特且引人入胜的内容。这种在叙事生成中对 LLM 的利用显示了其灵活性及在传统自然语言处理职责之外领域的应用潜力。在不同情境中，我们可能期望 LLM 生成符合事实的正确回答，即与现实相符，例如问答系统或在线助手。在此类情况下，正确性对于 LLM 在实践中获得信任至关重要。Bing Chatbot 为其用户提供在创意、平衡和精确三种输出模式中选择之一的灵活性。每种模式对创造力和事实准确性的侧重不同。在本工作中，我们基于特定损失给出了描述创造力与现实性的数学抽象。在这些损失上训练的模型平衡了模型创造力与现实性之间的权衡。
引用
@article{arxiv.2306.02295,
title = {A Mathematical Abstraction for Balancing the Trade-off Between Creativity and Reality in Large Language Models},
author = {Ritwik Sinha and Zhao Song and Tianyi Zhou},
journal= {arXiv preprint arXiv:2306.02295},
year = {2023}
}