引入 ELLIPS：面向 LLM 推断精神病条件的伦理中心方法
计算机与社会
2024-09-25 v1 人工智能
摘要
随着全球心理健康护理系统难以满足需求，越来越多的关注点集中在利用语言模型从语言产出中推断神经精神病条件或精神病理特征。然而，迄今为止，这些研究仅提供了应用临床有限的解决方案，由于未充分考虑至关重要于确保潜在应用与模型设计协同的伦理问题。为加速向临床可应用模型的进程，本文描绘了语言基盤推断精神病理的伦理景观，并为研究人员提供了实用工具以便于导航。我们识别了七项核心伦理原则，这些原则应指导该领域中模型开发和部署。将其转化为 ELLIPS，一套伦理工具包，将这些原则转化为可引导研究人员在数据选择、架构、评估和模型部署方面做出选择的问题。我们还提供了一个案例研究以示范其用法。通过这一工作，我们旨在促进具备实际应用潜力的模型技术的出现。
关键词
引用
@article{arxiv.2409.15323,
title = {Introducing ELLIPS: An Ethics-Centered Approach to Research on LLM-Based Inference of Psychiatric Conditions},
author = {Roberta Rocca and Giada Pistilli and Kritika Maheshwari and Riccardo Fusaroli},
journal= {arXiv preprint arXiv:2409.15323},
year = {2024}
}