基于社会文化感知的LLM内容审核评估框架
计算与语言
2024-12-19 v1 人工智能
摘要
随着社交媒体和大语言模型的发展，内容审核变得至关重要。许多现有数据集缺乏对不同群体的充分代表性，导致评估不可靠。为了解决这个问题，我们提出了一个社会文化感知的评估框架，用于基于LLM的内容审核，并引入了一种可扩展的方法，使用基于角色的生成来创建多样化数据集。我们的分析表明，与没有角色的多样性聚焦生成方法相比，这些数据集提供了更广泛的视角，并对LLM提出了更大的挑战。这种挑战在较小的LLM中尤为明显，强调了它们在审核如此多样化的内容时遇到的困难。
引用
@article{arxiv.2412.13578,
title = {Socio-Culturally Aware Evaluation Framework for LLM-Based Content Moderation},
author = {Shanu Kumar and Gauri Kholkar and Saish Mendke and Anubhav Sadana and Parag Agrawal and Sandipan Dandapat},
journal= {arXiv preprint arXiv:2412.13578},
year = {2024}
}
备注
Accepted in SUMEval Workshop in COLING 2025