人工智能导论及算法歧视问题的解决方案
计算机与社会
2021-08-23 v1 机器学习
摘要
有实质证据表明，人工智能（AI）与机器学习（ML）算法会对少数族裔、女性及其他受保护群体产生偏见。联邦与州法律已颁布，以保护消费者在信贷、住房及就业中免受歧视，监管者与机构受命执行这些法律。此外，现有法律确保消费者理解其被拒绝获得服务与产品（如消费贷款）的原因。本文中，我们概述使用算法与数据的潜在收益与风险，并特别关注公平性。尽管我们的观察可推广至诸多情境，我们聚焦于消费信贷中引发的公平性关切以及《平等信贷机会法》的法律要求。我们提出一种评估算法公平性与最小化算法偏见的方法论，其与联邦及州反歧视成文法中禁止公然歧视、差别待遇特别是差别影响歧视的条款相一致。我们认为，尽管AI与ML算法的使用加剧了潜在歧视风险，这些风险可被评估与缓解，但这需要深入理解这些算法及其所用情境与领域。
引用
@article{arxiv.1911.05755,
title = {An Introduction to Artificial Intelligence and Solutions to the Problems of Algorithmic Discrimination},
author = {Nicholas Schmidt and Bryce Stephens},
journal= {arXiv preprint arXiv:1911.05755},
year = {2021}
}
备注
16 pages