PersonaPKT：通过参数高效知识迁移构建个性化对话智能体
计算与语言
2023-06-16 v1 人工智能
摘要
由大型预训练语言模型（PLM）驱动的个性化对话智能体（DA）通常依赖显式的人物角色描述来维持性格一致性。然而，此类描述可能并不总是可用，或可能引发隐私问题。为应对这一瓶颈，我们提出 PersonaPKT，一种轻量级迁移学习方法，可在无显式人物角色描述的情况下构建具有角色一致性的对话模型。通过将每个人物角色表示为连续向量，PersonaPKT 直接从同一角色生成的少量对话样本中学习隐式角色特定特征，在 PLM 主干之上为每个角色增加少于 0.1% 的可训练参数。实证结果表明，PersonaPKT 能以高存储效率有效构建个性化 DA，在角色一致性方面优于多种基线，同时保持良好的回复生成质量。此外，它通过避免显式人物角色描述增强了隐私保护。总体而言，PersonaPKT 是一种尊重用户隐私、用于创建个性化 DA 的有效方案。
引用
@article{arxiv.2306.08126,
title = {PersonaPKT: Building Personalized Dialogue Agents via Parameter-efficient Knowledge Transfer},
author = {Xu Han and Bin Guo and Yoon Jung and Benjamin Yao and Yu Zhang and Xiaohu Liu and Chenlei Guo},
journal= {arXiv preprint arXiv:2306.08126},
year = {2023}
}
备注
10 pages, 3 figures, accepted to SustaiNLP 2023