道德代码是否有道德准则？探查 Delphi 的道德哲学
计算机与社会
2022-05-26 v1 计算与语言
摘要
为了保证机器学习模型输出符合人类道德价值观，近期工作已开始探索显式训练模型以学习对错区别的可能性。这通常以自下而上的方式完成，即向模型暴露不同场景，并标注人类道德判断。然而，一个问题是从这些数据集中训练出的模型是否真正学到了任何一致的、更高层次的伦理原则——如果是，那是什么？在此，我们使用一组标准化道德问卷探查 Allen AI 的 Delphi 模型，发现尽管存在一些不一致，Delphi 倾向于反映参与标注过程的人口统计群体相关的道德原则。我们质疑这是否可取，并讨论我们如何带着这一认知向前推进。
引用
@article{arxiv.2205.12771,
title = {Does Moral Code Have a Moral Code? Probing Delphi's Moral Philosophy},
author = {Kathleen C. Fraser and Svetlana Kiritchenko and Esma Balkir},
journal= {arXiv preprint arXiv:2205.12771},
year = {2022}
}
备注
To appear at TrustNLP Workshop @ NAACL 2022