迈向理解咨询对话：领域知识与大语言模型
计算与语言
2024-02-23 v1
摘要
理解咨询对话的动态是一项重要任务，然而尽管近期基于 Transformer 的预训练语言模型取得了进展，这仍然是一个具有挑战性的自然语言处理问题。本文提出了一种系统方法来检验领域知识和大语言模型 (LLMs) 在更好地表征危机咨询师与求助者之间对话方面的有效性。实证结果表明，诸如基于 Transformer 的模型和 GPT 模型等最先进语言模型无法预测对话结果。为了提供更丰富的对话上下文，我们融合了人工标注的领域知识和 LLM 生成的特征；简单地整合领域知识与 LLM 特征可将模型性能提高约 15%。我们认为，当作为对话的额外上下文使用时，领域知识和 LLM 生成的特征均可被利用以更好地刻画咨询对话。
引用
@article{arxiv.2402.14200,
title = {Towards Understanding Counseling Conversations: Domain Knowledge and Large Language Models},
author = {Younghun Lee and Dan Goldwasser and Laura Schwab Reese},
journal= {arXiv preprint arXiv:2402.14200},
year = {2024}
}
备注
Findings of EACL 2024, 10 pages