对齐心理健康支持中的人机交互信任：面向多利益相关方的综述与立场
计算与语言
2026-04-23 v1 人机交互
摘要
构建值得信赖的心理健康支持AI系统是来自多个学科的利益相关方的共同优先事项。然而，“值得信赖”的定义仍然松散，且操作化方式不一致。AI研究通常关注技术标准（例如，鲁棒性、可解释性和安全性），而治疗从业者则强调治疗保真度（例如，适当性、共情和长期用户结果）。为了弥合这一碎片化的格局，我们提出了一个三层信任框架，涵盖面向人、面向AI和面向交互的信任，整合了关键利益相关方（例如，从业者、研究人员、监管机构）的观点。利用这一框架，我们系统地回顾了心理健康领域现有的AI驱动研究，并考察了从自动指标到临床验证方法的“值得信赖”评估实践。我们强调了当前NLP所测量的内容与真实世界心理健康环境所需内容之间的关键差距，并概述了构建社会技术对齐且真正值得信赖的心理健康支持AI的研究议程。
引用
@article{arxiv.2604.20166,
title = {Aligning Human-AI-Interaction Trust for Mental Health Support: Survey and Position for Multi-Stakeholders},
author = {Xin Sun and Yue Su and Yifan Mo and Qingyu Meng and Yuxuan Li and Saku Sugawara and Mengyuan Zhang and Charlotte Gerritsen and Sander L. Koole and Koen Hindriks and Jiahuan Pei},
journal= {arXiv preprint arXiv:2604.20166},
year = {2026}
}