迈向社会责任AI：认知偏差感知的多目标学习
计算机与社会
2020-07-29 v2 计算与语言
机器学习
摘要
人类社会长期饱受认知偏差之苦，这些偏差导致了社会偏见与大规模不公正。大量历史数据中普遍存在的认知偏差，可能作为威胁显现为：在此类数据上训练的AI系统输出不道德且看似非人的预测。为缓解该问题，我们提出了一种偏差感知的多目标学习框架，该框架在给定一组身份属性（如性别、族裔等）以及预测输出可能类别中若干敏感类别子集的情况下，学习降低预测其中某些组合的频率，例如预测“多数黑人说脏话”或“恐惧是女性美德”等刻板印象。我们在具有均衡类别先验的情绪预测任务上进行的实验表明，一组忽略偏差的基线模型表现出针对性别的认知偏差，如女性更容易害怕而男性更容易愤怒。相比之下，我们提出的偏差感知多目标学习方法被证明能够减少预测情绪中的此类偏差。
引用
@article{arxiv.2005.06618,
title = {Towards Socially Responsible AI: Cognitive Bias-Aware Multi-Objective Learning},
author = {Procheta Sen and Debasis Ganguly},
journal= {arXiv preprint arXiv:2005.06618},
year = {2020}
}