基于解耦表征的检索增强分类方法
计算与语言
2023-04-12 v2
摘要
检索增强方法在各种分类任务中已展现出有前景的结果。然而，现有方法侧重于检索额外上下文以丰富输入，这对噪声敏感且不可扩展。本文沿此思路，提出一种基于 k-近邻 (KNN) 的检索增强分类方法，该方法将预测标签分布与检索实例的标签分布进行插值。不同于标准 KNN 过程，我们提出一种解耦机制，因为我们发现用于分类和检索的共享表征会损害性能并导致训练不稳定。我们在广泛的分类数据集上评估了我们的方法。实验结果证明了我们所提方法的有效性和鲁棒性。我们还进行了额外实验以分析模型中不同组件的贡献。\footnote{\url{https://github.com/xnliang98/knn-cls-w-decoupling}}
引用
@article{arxiv.2303.13065,
title = {Retrieval-Augmented Classification with Decoupled Representation},
author = {Xinnian Liang and Shuangzhi Wu and Hui Huang and Jiaqi Bai and Chao Bian and Zhoujun Li},
journal= {arXiv preprint arXiv:2303.13065},
year = {2023}
}
备注
preprint