ASCenD-BDS：一种自适应、随机且上下文感知的偏见、歧视与刻板印象检测框架
计算与语言
2025-06-24 v2 人工智能
计算机与社会
摘要
大型语言模型（LLM）的快速发展已经改变了自然语言处理，但也引发了对其在不同语言和社会文化背景下的部署和使用中固有偏见的严重关切。本文提出了一个名为ASCenD BDS（自适应、随机且上下文感知的偏见、歧视与刻板印象检测框架）的框架。该框架采用一种自适应、随机且上下文感知的方法，来检测跨性别、种姓、年龄、残疾、社会经济地位、语言差异等各种类别的偏见、歧视和刻板印象。现有框架严重依赖使用数据集来生成检测偏见、歧视和刻板印象的场景，例如Civil Comments、Wino Gender、WinoBias、BOLD、CrowS Pairs和BBQ等数据集。然而，这种方法只提供点解决方案。因此，这些数据集提供的评估场景数量有限。当前框架通过具备实现适应性、随机性、上下文感知的功能来克服这一限制。上下文感知可以针对任何国家、文化或亚文化（例如，一个组织的独特文化）进行定制。本文已在印度语境下建立了上下文感知。内容源自2011年印度人口普查，以实现分类的共性。该框架利用类别、子类别、STEM、X因子、同义词来构建，以实现适应性、随机性和上下文感知的功能。该框架在第3节中详细描述。总体而言，由Saint Fox Consultancy Private Ltd.的顾问团队开发了800多个STEM、10个类别和31个独特的子类别。该概念已在SFCLabs作为产品开发的一部分进行了测试。
引用
@article{arxiv.2502.02072,
title = {ASCenD-BDS: Adaptable, Stochastic and Context-aware framework for Detection of Bias, Discrimination and Stereotyping},
author = {Rajiv Bahl and Venkatesan N and Parimal Aglawe and Aastha Sarasapalli and Bhavya Kancharla and Chaitanya kolukuluri and Harish Mohite and Japneet Hora and Kiran Kakollu and Rahul Dhiman and Shubham Kapale and Sri Bhagya Kathula and Vamsikrishna Motru and Yogeshwar Reddy},
journal= {arXiv preprint arXiv:2502.02072},
year = {2025}
}
备注
17 pages, 6 Figures and this manuscript will be submitted to Q1,Q2 Journals