重建信任：Queer in AI 的人工智能风险管理方法
计算机与社会
2022-03-07 v3 人工智能
摘要
可信人工智能（AI）已成为一个重要议题，因为人们对 AI 系统及其创造者的信任已经丧失。研究人员、企业和政府有着长期且痛苦的边缘化群体被排斥在技术开发、部署和监督之外的历史。因此，这些技术对少数群体用处不大甚至有害。我们认为，任何旨在建立信任的 AI 开发、部署和监控框架，都必须纳入女性主义、非剥削性的参与式设计原则，以及强有力、外部且持续的监控和测试。我们进一步解释了考虑超越透明度、公平性和问责制的可信度要素的重要性，特别是将正义和向被剥夺权利者赋权作为任何可信 AI 系统的核心价值观。创建可信 AI 首先要从资助、支持和赋能像 Queer in AI 这样的基层组织开展，以便 AI 领域具备多样性和包容性，从而可信且有效地开发可信 AI。我们利用 Queer in AI 通过多年工作和倡导积累的专业知识，探讨性别、性向和酷儿身份的其他方面是否以及应该如何在数据集和 AI 系统中使用，以及如何减轻沿这些维度产生的危害。基于此，我们分享了一种性别化 AI 方法，并进一步提出了一种酷儿认识论，分析了它能为 AI 带来的益处。此外，我们还讨论了如何利用这种酷儿认识论在视觉领域对 AI 进行监管，提出了制定与 AI 及性别多样性、隐私及酷儿数据保护相关政策的框架。
引用
@article{arxiv.2110.09271,
title = {Rebuilding Trust: Queer in AI Approach to Artificial Intelligence Risk Management},
author = {Ashwin and William Agnew and Umut Pajaro and Hetvi Jethwani and Arjun Subramonian},
journal= {arXiv preprint arXiv:2110.09271},
year = {2022}
}
备注
We discovered that the manuscript unintentionally contains passages that are direct quotes from previous literature, but fails to properly address them as such