ClarifyDelphi：面向社会与道德情境的基于可废止性奖励的强化澄清问题
计算与语言
2023-06-01 v3
摘要
语境决定一切，即使在常识性道德推理中也是如此。语境的改变可以颠覆对某一行为的道德判断；“对朋友撒谎”通常是错误的，但如果是为了保护他们的生命，则可能在道德上是可以接受的。我们提出了 ClarifyDelphi，这是一个交互式系统，它学习提出澄清问题（例如，你为什么对朋友撒谎？），以引出社会或道德情境中额外的显著语境。我们假设，其潜在答案会导致不同道德判断的问题是最具信息量的。因此，我们提出了一个带有可废止性奖励的强化学习框架，旨在最大化对问题的假设答案之间道德判断的差异。人工评估表明，与具有竞争力的基线相比，我们的系统能生成更相关、更具信息量且更具可废止性的问题。我们的工作最终受到认知科学中关于道德认知灵活性（即道德规则可以被变通的多种语境）研究的启发，我们希望这一方向的研究能够辅助对道德判断的认知与计算研究。
引用
@article{arxiv.2212.10409,
title = {ClarifyDelphi: Reinforced Clarification Questions with Defeasibility Rewards for Social and Moral Situations},
author = {Valentina Pyatkin and Jena D. Hwang and Vivek Srikumar and Ximing Lu and Liwei Jiang and Yejin Choi and Chandra Bhagavatula},
journal= {arXiv preprint arXiv:2212.10409},
year = {2023}
}
备注
Accepted to ACL 2023 main conference, 9 pages + bibliography + appendix