BiasFinder：用于揭示情感分析系统中偏见的蜕变测试生成
软件工程
2021-10-06 v2
摘要
人工智能（AI）软件系统，如情感分析（SA）系统，通常从可能反映人类偏见的大量数据中学习。因此，此类软件系统中的机器学习模型可能基于特定特征（例如性别、职业、原籍国等）表现出非预期的人口统计偏见。当 SA 系统对仅所描述个体特征不同的相似文本预测出不同情感时，此类偏见便显现出来。现有揭示 SA 系统偏见的研究依赖于从一小批简短预定义模板生成句子。为克服此局限，我们提出 BiasFinder，一种通过蜕变测试发现 SA 系统中偏见预测的方法。BiasFinder 的一个关键特征是基于大规模语料中的文本片段自动策划合适模板，利用多种自然语言处理（NLP）技术识别描述人口统计特征的词语。接着，BiasFinder 通过用与某特征类别相关的词（例如性别特定词如女性名字、“she”、“her”）填充占位符，从这些模板实例化新文本。这些文本用于试探 SA 系统中的偏见。当 BiasFinder 检测到 SA 系统对一对文本表现出人口统计偏见，即仅在与目标特征（如性别）不同类别（如男性对女性）相关的词上不同的文本预测出不同情感时，其判定为一个揭偏测试用例。我们的实证评估表明，BiasFinder 能有效创建大量流畅且多样的测试用例，揭示 SA 系统中的各类偏见。
引用
@article{arxiv.2102.01859,
title = {BiasFinder: Metamorphic Test Generation to Uncover Bias for Sentiment Analysis Systems},
author = {Muhammad Hilmi Asyrofi and Zhou Yang and Imam Nur Bani Yusuf and Hong Jin Kang and Ferdian Thung and David Lo},
journal= {arXiv preprint arXiv:2102.01859},
year = {2021}
}