人口统计信息对大语言模型人格化影响
信息检索
2025-05-20 v1
摘要
社交媒体平台必须依法合规，对性别歧视内容进行筛选。当前的机器学习方法能够可靠地基于标准定义检测性别歧视，但常常忽视性别歧视语言的主观性，未能考虑 individual 用户的视角。为弥合这一差距，我们采用以人见为主的做法，保留多样化的标注结果，而非强制采用金标准标签或其聚合结果，使模型能够考虑个人或群体对性别歧视的特定观点。基于 Twitter 的人口统计数据，我们运用大语言模型（LLM）对性别歧视进行个性化识别。
引用
@article{arxiv.2505.11795,
title = {The Effects of Demographic Instructions on LLM Personas},
author = {Angel Felipe Magnossão de Paula and J. Shane Culpepper and Alistair Moffat and Sachin Pathiyan Cherumanal and Falk Scholer and Johanne Trippas},
journal= {arXiv preprint arXiv:2505.11795},
year = {2025}
}
备注
Accepted at SIGIR'25, Padua, Italy