迈向基于人工智能 (AI) 对话代理的安全演进以支持青少年心理与性健康知识发现
人机交互
2024-04-05 v1 人工智能
摘要
随着近期各类基于人工智能 (AI) 的对话代理 (CA) 的发布，青少年越来越多地使用 CA 进行敏感话题的交互式知识发现，包括心理与性健康话题。通过在线搜索探索此类敏感话题一直是青少年发展的重要组成部分，而 CA 能够通过类人对话支持他们在此类话题上的知识发现。然而，已有文献记录了青少年在与基于 AI 的 CA 交互时存在的意外风险，例如接触到不当内容、虚假信息，和/或获得对其身心健康有害的建议（例如自我伤害）。在这篇立场论文中，我们讨论了 CA 支持青少年心理与性健康知识发现的现状与机遇。我们还讨论了在青少年就性健康与心理健康话题与 CA 交互时，确保其安全所面临的一些挑战。我们呼吁开展讨论，探讨如何为面向青少年的基于 AI 的 CA 的安全演进设置护栏。
引用
@article{arxiv.2404.03023,
title = {Toward Safe Evolution of Artificial Intelligence (AI) based Conversational Agents to Support Adolescent Mental and Sexual Health Knowledge Discovery},
author = {Jinkyung Park and Vivek Singh and Pamela Wisniewski},
journal= {arXiv preprint arXiv:2404.03023},
year = {2024}
}
备注
This paper has been peer-reviewed and presented at the "CHI 2024 Workshop on Child-centred AI Design, May 11, 2024, Honolulu, HI, USA."