用于人格预测的多层级句子嵌入
计算与语言
2023-05-11 v1
摘要
将文本表示到多维空间中可通过 Sentence-BERT (SBERT) 等句子嵌入模型实现。然而，当数据具有复杂的多层级结构时，训练这些模型需要单独训练特定于类别的模型，这增加了时间与计算成本。我们提出一种两步方法，能够将句子依据其层级归属与极性进行映射。首先，我们通过 AdaCos 损失函数学习上层句子空间，随后使用一种主要基于层内样本对余弦相似度的新型损失函数进行微调。我们将该方法应用于三个不同的数据集：从英文与日文 Twitter 数据获得的弱监督大五人格（Big Five）数据集，以及基准 MNLI 数据集。我们表明，我们的单模型方法优于多个特定于类别的分类模型。
引用
@article{arxiv.2305.05748,
title = {Multilevel Sentence Embeddings for Personality Prediction},
author = {Paolo Tirotta and Akira Yuasa and Masashi Morita},
journal= {arXiv preprint arXiv:2305.05748},
year = {2023}
}
备注
Copyright is owned by JSAI