面向开放式伦理困境问题的回答
计算与语言
2023-02-02 v3 人工智能
机器学习
摘要
基于大语言模型（LLMs）的强大能力，各种 NLP 任务取得了显著进展，许多 NLP 应用已部署于我们的日常生活中。在这项工作中，我们以伦理困境生成式问答这一新任务来挑战 LLMs 的能力。伦理困境问题更难以应对，因为对于单个困境可能存在多个相互冲突的答案。我们探索了 LLMs 当前以苏格拉底哲学的方式、通过不同视角的审慎交流为伦理困境提供答案的能力，而非像神谕一样给出封闭答案。我们提出了一种模型，该模型搜索适用于该伦理困境的不同伦理原则，并通过基于提示的少样本学习在所选原则条件下生成答案。我们还讨论了该任务中涉及的剩余挑战与伦理问题，并提出了通过显式纳入人类价值来发展负责任 NLP 系统的方向。
引用
@article{arxiv.2205.05989,
title = {Towards Answering Open-ended Ethical Quandary Questions},
author = {Yejin Bang and Nayeon Lee and Tiezheng Yu and Leila Khalatbari and Yan Xu and Samuel Cahyawijaya and Dan Su and Bryan Wilie and Romain Barraud and Elham J. Barezi and Andrea Madotto and Hayden Kee and Pascale Fung},
journal= {arXiv preprint arXiv:2205.05989},
year = {2023}
}
备注
16 pages