机器人演绎恶性刻板印象
摘要
刻板印象、偏见与歧视已在机器学习（ML）方法中被广泛记录，例如计算机视觉（CV）[18, 80]、自然语言处理（NLP）[6]，或二者兼具的情形，如 OpenAI CLIP 等大型图像与字幕模型 [14]。在本文中，我们评估了 ML 偏见如何体现在物理上自主行动于世界中的机器人身上。我们审计了若干近期发表的 CLIP 驱动的机器人操作方法之一，向其呈现表面印有跨种族与性别的人脸图像的对象，以及包含与常见刻板印象相关术语的任务描述。我们的实验明确表明，机器人在性别、种族以及科学上已被证伪的面相学方面，大规模地表现出有毒刻板印象行为。此外，被审计的方法较不易识别女性与有色人种。我们的跨学科社会技术分析综合了科学、技术与社会（STS）、批判研究、历史学、安全性、机器人与 AI 等领域与应用。我们发现，由包含人类的大型数据集与 Dissolution Models（有时称为“基础模型”，如 CLIP）驱动的机器人，总体上存在物理上放大恶性刻板印象的风险；且仅纠正差异不足以应对该问题的复杂性与规模。相反，我们建议，在能够证明结果安全、有效且公正之前，应暂停、重构甚至在适当时终止那些物理上显现刻板印象或其他有害结果的机器人学习方法。最后，我们讨论了全面的政策变更，以及身份安全评估框架与设计正义等主题的新跨学科研究的潜力，以更好地理解和应对这些危害。
引用
@article{arxiv.2207.11569,
title = {Robots Enact Malignant Stereotypes},
author = {Andrew Hundt and William Agnew and Vicky Zeng and Severin Kacianka and Matthew Gombolay},
journal= {arXiv preprint arXiv:2207.11569},
year = {2022}
}
备注
30 pages, 10 figures, 5 tables. Website: https://sites.google.com/view/robots-enact-stereotypes . Published in the 2022 ACM Conference on Fairness, Accountability, and Transparency (FAccT 22), June 21-24, 2022, Seoul, Republic of Korea. ACM, DOI: https://doi.org/10.1145/3531146.3533138 . FAccT22 Submission dates: Abstract Dec 13, 2021; Submitted Jan 22, 2022; Accepted Apr 7, 2022