智慧之言：从AI交流中学习中的表征性危害
人机交互
2021-11-17 v1 人工智能
计算与语言
计算机与社会
摘要
许多教育技术使用人工智能（AI）向学习者呈现生成或产出的语言。我们认为，所有语言，包括所有AI交流，都编码了关于参与构建该语言的一个或多个人类身份的信息。然而，在AI交流中，用户可能索引出与来源不匹配的身份信息。如果与某一文化群体相关的语言被呈现为“标准”或“中性”，如果语言使某一群体优于另一群体，或者如果语言强化了负面刻板印象，则可能导致表征性危害。在这项工作中，我们讨论了一个使用视觉问题生成（Visual Question Generation, VQG）任务的案例研究，涉及从特定目标人口群体收集众包数据。生成的问题将呈现给人类评估者，以了解他们如何索引语言背后的身份、是否及如何感知任何表征性危害，以及他们理想中如何解决AI交流造成的任何此类危害。我们反思了这项工作的教育应用以及对平等、多样性和包容（EDI）的影响。
引用
@article{arxiv.2111.08581,
title = {Words of Wisdom: Representational Harms in Learning From AI Communication},
author = {Amanda Buddemeyer and Erin Walker and Malihe Alikhani},
journal= {arXiv preprint arXiv:2111.08581},
year = {2021}
}