伦理心理健康基准: 用于精神健康AI伦理推理的试点基准

大型语言模型（LLM）在精神健康等敏感领域的部署，引发了关于伦理推理、公平性和负责任对齐的紧迫问题。然而，现有针对道德和临床决策的基准测试并不充分捕捉精神健康实践中所遇到的独特伦理困境，在这些情境中，保密性、自主权、恩惠原则和偏见常常交织在一起。为弥合这一差距，我们引入了精神健康中的伦理推理（EthicsMH），这是一套包含125个情景的试点数据集，用于评估AI系统在治疗和精神科语境中应对伦理敏感情境的能力。每个情景都包含结构化字段，包括多个决策选项、专家对齐的推理、预期模型行为、实际影响以及多方观点。这种结构不仅使我们能够评估决策准确性，还能评估解释质量和与专业规范的一致性。尽管该数据集规模 modest 且采用模型辅助生成，但EthicsMH建立了一个桥接AI伦理与精神健康决策的任务框架。通过发布此数据集，我们旨在提供一个可通过社区和专家贡献进行扩展的种子资源，促进开发能够负责任地处理社会中最 delicate 决策的AI系统。