利用多个黑盒模型在情感检测中平衡公平性与准确性
机器学习
2022-04-26 v1
摘要
情感检测是产品推荐、网络欺凌检测和错误信息检测等多种信息检索任务的重要基石。毫不意外，多种具有不同准确性与公平性水平的商业 API 现已可用于情感检测。虽然在多媒体计算文献中常研究结合来自多模态或黑盒模型的输入以提升准确性，但关于结合不同模态以提升所得决策公平性的工作甚少。在本工作中，我们审计了多个商业情感检测 API 在两类演员新闻标题设定中的性别偏见，并报告所观察到的偏见水平。接下来，我们提出一种“灵活公平回归(Flexible Fair Regression)”方法，其通过联合从多个黑盒模型学习来确保令人满意的准确性与公平性。结果为面向多种应用的公平且准确的情感检测器铺平了道路。
引用
@article{arxiv.2204.10940,
title = {Balancing Fairness and Accuracy in Sentiment Detection using Multiple Black Box Models},
author = {Abdulaziz A. Almuzaini and Vivek K. Singh},
journal= {arXiv preprint arXiv:2204.10940},
year = {2022}
}