面向自然叙事中规范原则预测的机器学习方法
计算与语言
2022-12-13 v1 计算机视觉与模式识别
摘要
价值对齐是创建其价值观与人类一致的自主系统的任务。过去的研究表明，故事是有关人类价值观的潜在丰富信息来源；然而，以往工作仅限于以二元方式考虑价值观。在本工作中，我们探索使用机器学习模型在自然发生的故事数据上完成规范原则预测任务。为此，我们扩展了一个先前用于训练二元规范分类器的数据集，为其添加道德原则标注。然后我们利用该数据集训练多种机器学习模型，评估这些模型并将其结果与被要求执行相同任务的人类进行比较。我们表明，尽管单个原则可以被分类，但“道德原则”所代表含义的模糊性，对面临相同任务的人类参与者和自主系统都构成了挑战。
引用
@article{arxiv.2212.06048,
title = {Machine Learning Approaches for Principle Prediction in Naturally Occurring Stories},
author = {Md Sultan Al Nahian and Spencer Frazier and Brent Harrison and Mark Riedl},
journal= {arXiv preprint arXiv:2212.06048},
year = {2022}
}
备注
Nahian and Frazier contributed equally to this work