辨别在线健康社区中的作者身份：经验、信任与透明度对审核 AI 的启示
人机交互
2026-04-22 v1 计算机与社会
摘要
对于在线健康社区而言，社区信任至关重要。然而，生成建议的大型语言模型（LLM）的进步可能会侵蚀这种信任，特别是当用户无法识别是否使用了 LLM 时。我们调查了基于社区的健康建议作者身份检测的可行性，以及 LLM 的自我审核如何帮助提高建议的利用率。在一项在线实验中，我们评估了人们区分 AI 生成与人类撰写建议的能力，涵盖了两种健康状况，并考虑了对特定疾病的亲身经历、AI 识别训练以及用户对 AI 使用的透明度和信任的态度。我们的结果表明需要透明度与信任相结合。我们几乎没有发现人们能够辨别建议作者身份的证据。然而，我们发现健康状况具有一致的影响。我们的定性研究结果识别出不可靠的信号，导致对建议的有缺陷的启发式评估。我们的研究结果指出了改进基于 LLM 的 AI 自我审核并辅助基于社区的 AI 审核的机遇。
引用
@article{arxiv.2604.19429,
title = {Discerning Authorship in Online Health Communities: Experience, Trust, and Transparency Implications for Moderating AI},
author = {Yefim Shulman and Agnieszka Kitkowska and Mark Warner},
journal= {arXiv preprint arXiv:2604.19429},
year = {2026}
}