AI 伦理声明——NeurIPS 更广泛影响声明的分析与经验教训
计算机与社会
2021-11-03 v1 人工智能
机器学习
摘要
伦理声明被提议作为一种机制，用以提高透明度并促进对已发表研究的社会影响的反思。2020 年，机器学习会议 NeurIPS 开创先河，要求所有论文包含更广泛影响声明。该要求于 2021 年被取消，转而采用检查清单方法。因此，2020 年的声明提供了一个独特的机会，让我们从更广泛影响实验中学习：探究这一机制及类似治理机制的益处与挑战，并洞察机器学习研究者如何看待自身工作的社会影响。随着 NeurIPS 及其他会议持续质疑并调整其政策，这种学习是必要的。为此，我们创建了一个数据集，包含所有 NeurIPS 2020 论文的影响声明，以及机构类型、地点和学科领域等附加信息，并提供了一个简单的可视化探索工具。我们还对数据集进行了初步定量分析，涵盖代表性、参与度、常见主题以及讨论潜在危害与益处的意愿。我们研究了这些因素如何因地理位置、机构类型和学科领域而异。基于这些发现，我们讨论了伦理声明要求的潜在益处与负面结果，及其可能的成因和相关挑战。这使我们从 2020 年的要求中总结出若干经验教训：(i) 建立正确激励措施的重要性，(ii) 明确期望与指导的必要性，以及 (iii) 透明度与建设性审议的重要性。我们鼓励其他研究者使用我们的数据集进行更多分析，以加深我们对研究者如何响应这一要求的理解，并探究该机制及相关机制的益处与挑战。
引用
@article{arxiv.2111.01705,
title = {AI Ethics Statements -- Analysis and lessons learnt from NeurIPS Broader Impact Statements},
author = {Carolyn Ashurst and Emmie Hine and Paul Sedille and Alexis Carlier},
journal= {arXiv preprint arXiv:2111.01705},
year = {2021}
}