构建众包对话数据集以对抗网络诱导
人机交互
2024-05-24 v1
摘要
网络诱导日益成为青少年安全与心理健康的威胁。对抗网络诱导的一种方式是利用预测性人工智能 (AI) 检测社交媒体中的掠夺性行为。然而，这些方法可能面临误报等挑战以及隐私担忧等负面影响。另一种互补策略涉及使用生成式人工智能，通过教育青少年了解掠夺性行为来增强其能力。为此，我们设想开发 state-of-the-art 对话智能体，以出于教育目的模拟青少年与掠夺者之间的对话。然而，一个关键挑战是缺乏训练此类对话智能体的数据集。在本立场论文中，我们阐述了增强青少年应对网络诱导能力的动机。我们提议通过针对青少年和父母的在线调查，开发大规模、真实的数据集。我们讨论了动机与提议的调查设计背后的一些初步背景，例如将参与者置于人工网络诱导场景中，随后允许参与者对调查作出回应以获取其真实反应。我们还提出了与所提方法相关的几个开放性问题，并希望与研讨会参会者进行讨论。
引用
@article{arxiv.2405.13154,
title = {Generating A Crowdsourced Conversation Dataset to Combat Cybergrooming},
author = {Xinyi Zhang and Pamela J. Wisniewski and Jin-hee Cho and Lifu Huang and Sang Won Lee},
journal= {arXiv preprint arXiv:2405.13154},
year = {2024}
}