用户撰写文本中心理概念抽取与分类的可靠性分析
计算与语言
2024-01-15 v1 人工智能
摘要
社会NLP研究社区近期见证了心理健康分析计算方法的激增，旨在构建负责任的AI模型，以应对语言使用与自我认知之间复杂的相互作用。此类负责任的AI模型有助于量化社交媒体用户撰写文本中的心理概念。在超越低层次（分类）任务的基础上，我们将现有的二元分类数据集推进到更高层次的可靠性分析任务，通过解释的视角，将其定位为一项安全措施。我们对LoST数据集进行标注，以捕捉暗示Reddit用户帖子中存在低自尊的细微文本线索。我们进一步指出，为确定低自尊存在与否而开发的NLP模型，更侧重于三类文本线索：（i）触发词：引发心理困扰的词语，（ii）LoST指标：强调低自尊的文本指标，以及（iii）后果：描述心理困扰后果的词语。我们实现了现有分类器，以检查预训练语言模型（PLM）在特定领域心理学基础任务中的注意力机制。我们的发现表明，需要将PLM的关注点从触发词和后果转移到更全面的解释上，在判断Reddit帖子中的低自尊时强调LoST指标。
引用
@article{arxiv.2401.06709,
title = {Reliability Analysis of Psychological Concept Extraction and Classification in User-penned Text},
author = {Muskan Garg and MSVPJ Sathvik and Amrit Chadha and Shaina Raza and Sunghwan Sohn},
journal= {arXiv preprint arXiv:2401.06709},
year = {2024}
}