用于临床医生友好解释的过程知识融合学习
计算与语言
2023-06-19 v1 人工智能
摘要
语言模型有潜力利用社交媒体数据评估心理健康。通过分析在线帖子和对话，这些模型可检测表明心理健康状况（如抑郁、焦虑或自杀念头）的模式。它们考察关键词、语言标记和情感，以洞察个体的心理健康状况。该信息对于早期检测、干预和支持至关重要，可改善心理健康护理与预防策略。然而，使用语言模型从社交媒体进行心理健康评估存在两个局限：（1）它们未将帖子与临床医生的诊断流程比对；（2）难以用临床医生可理解的概念（即临床医生友好解释）解释语言模型输出。在本研究中，我们引入过程知识融合学习（PK-iL），一种将临床过程知识结构置于语言模型输出之上的新学习范式，从而实现对其底层语言模型预测的临床医生友好解释。我们在现有基准数据集上严格测试了我们的方法（用此类临床过程知识增强），并发布了一个用于评估自杀性的新数据集。PK-iL 表现具竞争力，与用户达成 70% 的一致率，而其他 XAI 方法仅达 47%（平均评分者间一致率 0.72）。我们的评估表明 PK-iL 能向临床医生有效解释模型预测。
引用
@article{arxiv.2306.09824,
title = {Process Knowledge-infused Learning for Clinician-friendly Explanations},
author = {Kaushik Roy and Yuxin Zi and Manas Gaur and Jinendra Malekar and Qi Zhang and Vignesh Narayanan and Amit Sheth},
journal= {arXiv preprint arXiv:2306.09824},
year = {2023}
}
备注
Accepted for Publication at AAAI Second Symposium on Human Partnership with Medical Artificial Intelligence (HUMAN.AI Summer 2023): Design, Operationalization, and Ethics. July 17-19, 2023