Skin-in-the-Game：通过 LLM 中的多利益相关者对齐进行决策

Bilgehan Sel; Priya Shanmugasundaram; Mohammad Kachuee; Kun Zhou; Ruoxi Jia; Ming Jin

Skin-in-the-Game：通过 LLM 中的多利益相关者对齐进行决策

计算与语言 2024-06-04 v2 人工智能机器学习

作者: Bilgehan Sel , Priya Shanmugasundaram , Mohammad Kachuee , Kun Zhou , Ruoxi Jia , Ming Jin

摘要

大型语言模型在摘要、算术推理和问答等任务中展现出了卓越的能力。然而，它们在道德推理和伦理决策领域遇到了重大挑战，尤其是在涉及多个利益相关者的复杂场景中。本文引入了 Skin-in-the-Game (SKIG) 框架，旨在通过从多个利益相关者视角探索决策的后果来增强 LLM 的道德推理。SKIG 机制的核心是模拟行为的问责制，这与共情练习和风险评估一起，对其有效性至关重要。我们在各种道德推理基准上使用专有和开源 LLM 验证了 SKIG 的性能，并通过广泛的消融分析研究了其关键组件。

关键词

大型语言模型道德推理伦理决策多利益相关者对齐问责制模拟

引用

@article{arxiv.2405.12933,
  title  = {Skin-in-the-Game: Decision Making via Multi-Stakeholder Alignment in LLMs},
  author = {Bilgehan Sel and Priya Shanmugasundaram and Mohammad Kachuee and Kun Zhou and Ruoxi Jia and Ming Jin},
  journal= {arXiv preprint arXiv:2405.12933},
  year   = {2024}
}

备注

ACL 2024, long paper

Skin-in-the-Game：通过 LLM 中的多利益相关者对齐进行决策

摘要

关键词

引用

备注

相关论文