中文

利用归一化流对个性化情感预测中的不确定性进行建模

人工智能 2023-12-12 v1

摘要

为自然语言处理(NLP)中的主观问题设计预测模型仍然具有挑战性。这主要是由于其非确定性本质以及不同人类对内容的不同感知。个性化自然语言处理(PNLP)可能解决这一问题,其中模型利用关于读者的额外信息来做出更准确的预测。然而,当前方法需要将接收者的完整信息直接嵌入。此外,近期方法侧重于确定性推理或基于简单频率的概率估计。在这项工作中,我们通过提出一种新颖的方法来克服这一限制,该方法使用条件归一化流捕捉预测的不确定性。这使我们能够对复杂的多模态分布进行建模,并使用负对数似然(NLL)比较各种模型。此外,由于可用的采样函数,新解决方案允许对可能的读者感知进行多种解释。我们在三个具有挑战性的主观NLP任务(包括情感识别和仇恨言论)上验证了我们的方法。泛化方法与个性化方法的比较分析表明,我们的个性化解决方案显著优于基线,并提供了更精确的不确定性估计。还展示了其对文本可解释性和不确定性研究的影响。所开发方法带来的信息使得构建混合模型成为可能,其有效性超越了经典解决方案。此外,还对具有高注释熵的文本以及观点混合的注释者的决策概率进行了分析和可视化。

关键词

引用

@article{arxiv.2312.06034,
  title  = {Modeling Uncertainty in Personalized Emotion Prediction with Normalizing Flows},
  author = {Piotr Miłkowski and Konrad Karanowski and Patryk Wielopolski and Jan Kocoń and Przemysław Kazienko and Maciej Zięba},
  journal= {arXiv preprint arXiv:2312.06034},
  year   = {2023}
}

备注

10 pages, 8 figures, SENTIRE'23 (ICDM 2023)