解构冒犯性感知：文化与道德关联
计算机与社会
2023-12-13 v1 计算与语言
摘要
冒犯性感知本质上是主观的，受感知者的生活经历和社会文化价值观所塑造。近年来，人们在构建可大规模检测冒犯性语言的 AI 工具方面付出了大量努力，以此作为审核社交媒体平台的手段，并确保 ChatGPT 和 Bard 等对话式 AI 技术的安全性。然而，现有方法将这一任务视为一项技术性工作，其建立在由全球众包工作者标注的冒犯性数据之上，却完全没有关注众包工作者的来源或其感知所反映的价值观。我们认为，文化和心理因素在冒犯性的认知处理中起着至关重要的作用，在此背景下考虑这一点尤为关键。我们将判定冒犯性的任务重新界定为本质上是一个道德判断问题——即在隐含的一套社会文化规范内，划定道德上错误与正确语言的边界。通过一项基于来自 8 个文化区域的 21 个国家的 4309 名参与者的大规模跨文化研究，我们展示了冒犯性感知中存在的显著跨文化差异。更重要的是，我们发现个人道德价值观在塑造这些差异中起着至关重要的作用：关于关爱和纯洁的道德关切是驱动跨文化差异的显著中介因素。当我们为多元世界构建 AI 模型时，这些见解至关重要，因为模型所秉持的价值观应旨在尊重并兼顾不同地理文化背景下的道德价值观。
引用
@article{arxiv.2312.06861,
title = {Disentangling Perceptions of Offensiveness: Cultural and Moral Correlates},
author = {Aida Davani and Mark Díaz and Dylan Baker and Vinodkumar Prabhakaran},
journal= {arXiv preprint arXiv:2312.06861},
year = {2023}
}