自然语言生成模型伦理评估的民主化
计算与语言
2022-07-25 v2
摘要
自然语言生成模型是在以词序列作为上下文提示时生成连贯语言的计算机系统。尽管它们无处不在且有许多有益应用，语言生成模型也可能通过生成歧视性语言、仇恨言论、亵渎内容及其他有害材料而造成社会危害。因此，对这些模型的伦理评估至关重要。但它也是一项具有挑战性的任务，需要计算语言学和社会正义等多个专门领域的专业知识。尽管研究界在该领域已取得重大进展，但由于高准入门槛，此类伦理评估对更广泛人群的可得性仍然有限。本文介绍一种用于使自然语言生成模型伦理评估民主化和标准化的新工具：自然语言生成模型伦理评估工具（TEAL），它是开源评估框架 Credo AI Lens 的一个组件。
引用
@article{arxiv.2207.10576,
title = {Democratizing Ethical Assessment of Natural Language Generation Models},
author = {Amin Rasekh and Ian Eisenberg},
journal= {arXiv preprint arXiv:2207.10576},
year = {2022}
}
备注
28th SIGKDD Conference on Knowledge Discovery and Data Mining (KDD 2022), August 14-18, 2022, Washington, DC