从危险到可能:理解人类(与AI)偏见如何影响在线论坛
社会与信息网络
2024-03-22 v1 人工智能
人机交互
摘要
社交媒体平台是在线论坛,用户在其中参与讨论、分享内容和建立联系。这篇综述通过三个关键视角:在线辩论、在线支持和人机交互,探讨了社交媒体分析(分析使用复杂网络分析和自然语言处理工具的研究)背景下的社交互动、用户生成内容和偏见的动态。一方面,我们描绘了在线辩论的现象,其中极化、错误信息和回音室形成常常在算法偏见和极端的同质性机制驱动下扩散。另一方面,我们通过用户的自我表露和社会支持机制探索了在线支持小组的出现。在线辩论和支持机制呈现了社交媒体内危险与可能性的双重性;隔离社区和极化辩论的危险,以及共情叙事和自助小组的可能性。这种二分法也延伸至第三个视角:用户对AI生成内容(例如由大型语言模型产生的内容)的依赖,这些内容可能同时表现出隐藏在训练集中的人类偏见和从其人工神经网络架构中涌现的非人类偏见。通过分析跨学科方法,我们旨在加深对社交媒体生态系统领域内社交互动、用户生成内容和偏见之间复杂相互作用的理解。
引用
@article{arxiv.2403.14298,
title = {From Perils to Possibilities: Understanding how Human (and AI) Biases affect Online Fora},
author = {Virginia Morini and Valentina Pansanella and Katherine Abramski and Erica Cau and Andrea Failla and Salvatore Citraro and Giulio Rossetti},
journal= {arXiv preprint arXiv:2403.14298},
year = {2024}
}