中文

3M-Health:用于精神健康检测的多模态多教师知识蒸馏

计算与语言 2024-11-08 v3

摘要

精神健康分类在当今社会中至关重要,数字平台作为监测个体福祉的关键来源。然而,现有社交媒体精神健康数据集主要由文本单模态样本构成,可能限制此类数据训练模型的效果。鉴于人类利用跨模态信息来理解复杂情境或问题,本文提出了一种新方法以克服当前方法的局限性。本工作引入一种用于精神健康分类的多模态和多教师知识蒸馏模型,借鉴了跨模态人类理解的洞见。不同于常规方法依赖简单拼接来整合多样化特征,本模型解决了对不同性质输入(例如文本和声音)进行恰当表示的挑战。为缓解将所有特征整合到单个模型中导致的计算复杂度问题,我们采用多教师架构。通过在多个教师之间分布学习过程,每个教师专注于特定特征提取方面,从而提升整体精神健康分类性能。通过实验验证,我们展示了本模型在实现提升性能方面的有效性。

关键词

引用

@article{arxiv.2407.09020,
  title  = {3M-Health: Multimodal Multi-Teacher Knowledge Distillation for Mental Health Detection},
  author = {Rina Carines Cabral and Siwen Luo and Josiah Poon and Soyeon Caren Han},
  journal= {arXiv preprint arXiv:2407.09020},
  year   = {2024}
}

备注

Accepted at CIKM 2024; Code will be made available at https://github.com/adlnlp/3mhealth