AffirmativeAI：面向大型语言模型的 LGBTQ+ 友好审计框架
人机交互
2024-05-09 v1
摘要
LGBTQ+ 社区面临较高的心理健康挑战，包括抑郁、焦虑和自杀意念的更高发生率。研究表明，LGBTQ+ 人士一直在使用基于大型语言模型的聊天机器人（如 ChatGPT）来满足其心理健康需求。尽管这些聊天机器人提供了即时支持和匿名性，但仍担心其无法提供富有同情心、准确且肯定的回应。在此背景下，我们提出了一个基于 affirmative therapy（肯定疗法）原则的框架，用于评估大型语言模型的肯定性，强调需要态度、知识和行动来支持和肯定 LGBTQ+ 经历。我们提出结合定性和定量分析，旨在建立“Affirmative AI”基准，确保基于大型语言模型的聊天机器人能够为 LGBTQ+ 人士提供安全、支持且有效的心理健康支持。我们将大型语言模型的肯定性定位为心理健康支持的工具，而非解决方案，因我们强调在设计技术辅助工具时需考虑 LGBTQ+ 社区的复杂歧视。我们的目标是评估大型语言模型在 LGBTQ+ 心理健康支持方面的表现，因为该社区许多成员已经在使用它们，从而识别在此背景下使用通用大型语言模型可能带来的风险。
关键词
引用
@article{arxiv.2405.04652,
title = {AffirmativeAI: Towards LGBTQ+ Friendly Audit Frameworks for Large Language Models},
author = {Yinru Long and Zilin Ma and Yiyang Mei and Zhaoyuan Su},
journal= {arXiv preprint arXiv:2405.04652},
year = {2024}
}