从症状到系统：专家引导的生成式AI饮食障碍风险理解方法
人机交互
2025-12-05 v1 人工智能
摘要
生成式AI系统可能对易患饮食障碍的个体构成严重风险。现有的防护措施往往忽视细微但具有临床意义的线索，导致许多风险未得到解决。为了更好地理解这些风险的本质，我们对15位具有饮食障碍专业知识的临床医生、研究人员和倡导者进行了半结构化访谈。采用归纳性定性分析，我们开发了一个专家引导的生成式AI风险分类体系，涵盖七个类别：（1）提供通用健康建议；（2）鼓励紊乱行为；（3）支持症状隐瞒；（4）创造瘦身灵感；（5）强化负面自我信念；（6）促进对身体过度关注；以及（7）延续对饮食障碍的狭隘认知。我们的结果展示了用户与生成式AI系统的某些交互如何以可能加剧风险的方式与饮食障碍的临床特征相交。我们讨论了我们的工作的影响，包括风险评估方法、防护机制设计以及与领域专家的参与式评估实践。
引用
@article{arxiv.2512.04843,
title = {From Symptoms to Systems: An Expert-Guided Approach to Understanding Risks of Generative AI for Eating Disorders},
author = {Amy Winecoff and Kevin Klyman},
journal= {arXiv preprint arXiv:2512.04843},
year = {2025}
}