我们为何需要有偏AI——论引入认知与伦理机器偏置如何增强AI系统
机器学习
2023-02-15 v1 人工智能
摘要
本文从两方面强调偏置在人工智能（AI）领域的重要性。首先，为在复杂、不稳定且不确定的真实环境中促进高效的算法决策，我们主张在学习算法中从结构上实现人类认知偏置。其次，我们认为为实现符合伦理的机器行为，必须应用过滤机制以筛选代表符合伦理期望的社会或行为特征的偏置训练刺激。我们利用认知科学与伦理学的见解并将其应用于AI领域，将理论考量与七个描绘具体偏置实现场景的案例研究相结合。最终，本文是明确追求重新评估机器偏置的伦理意义之理念，以及提出将认知偏置植入机器之理念的首个初步尝试。
引用
@article{arxiv.2203.09911,
title = {Why we need biased AI -- How including cognitive and ethical machine biases can enhance AI systems},
author = {Sarah Fabi and Thilo Hagendorff},
journal= {arXiv preprint arXiv:2203.09911},
year = {2023}
}