面向AI公平性：检测大语言模型在营销中的偏见

大型语言模型（LLM）的近期进展正在金融、营销和客户服务等行业实现自然语言处理任务的革命性变革。然而，其广泛采用带来了显著挑战，尤其是以形式出现于其输出中的社会偏见。与性别、年龄及其他敏感属性相关的偏见可能导致不公平对待，引发伦理问题，损害企业声誉并削弱客户信任。本研究考察了LLM（即ChatGPT）在营销标语生成中的偏见，通过精心设计的提示词针对五个人口统计学类别（性别、婚姻状况、年龄、收入水平和教育水平）生成针对性广告。共生成1700个标语，涵盖17个独特人口统计学群体，并将关键术语归类为四个主题组：赋能、金融、益处与功能、个性化。我们采用相对偏见计算方法，并使用Kolmogorov-Smirnov（KS）检验对其进行统计检验，检验对象为针对任意个体生成的通用标语。结果显示，营销标语并非中性；相反，它们根据人口统计学因素强调不同的主题。女性、年轻者、低收入者及教育水平较低者接收更具辨识度的讯息，而年长者、高收入者及高学历者则相对较少。本研究强调在AI生成营销策略中需考虑人口统计学偏见及其 broader 社会影响。研究结果为开发更公平的AI系统提供了路线图，突显了在大语言模型中持续进行偏见检测与缓解的必要性。