HiCoLoRA:通过分层协作 LoRA 解决上下文-提示不对齐问题以实现零样本 DST
计算与语言
2026-04-15 v4 人工智能
信息检索
摘要
零样本对话状态追踪(zs-DST)对于使面向任务的对话系统(TOD)无需昂贵的数据标注即可泛化到新领域至关重要。一个核心挑战在于动态对话上下文与静态提示之间的语义不对齐,导致跨层协调不灵活、领域干扰和灾难性遗忘。为此,我们提出了分层协作低秩适应(HiCoLoRA)框架,通过鲁棒的提示对齐增强零样本槽位推理。它采用分层 LoRA 架构进行动态层特定处理(结合低层启发式分组和高层全交互),集成谱联合域-槽位聚类以识别可迁移关联(feeding an Adaptive Linear Fusion Mechanism),并采用语义增强 SVD 初始化(SemSVD-Init)以保留预训练知识。在 MultiWOZ 和 SGD 多领域数据集上的实验表明,HiCoLoRA 优于基线,在 zs-DST 中达到 SOTA。代码可在 https://github.com/carsonz/HiCoLoRA 获取。
引用
@article{arxiv.2509.19742,
title = {HiCoLoRA: Addressing Context-Prompt Misalignment via Hierarchical Collaborative LoRA for Zero-Shot DST},
author = {Shuyu Zhang and Yifan Wei and Xinru Wang and Yanmin Zhu and Yangfan He and Yixuan Weng and Bin Li and Yujie Liu},
journal= {arXiv preprint arXiv:2509.19742},
year = {2026}
}
备注
Accepted in ACL2026 findings