道德是情境化的：从人类数据中学习可解释道德情境
计算与语言
2025-12-29 v1 人工智能
机器学习
摘要
道德行为不仅由其结果判断，也由其发生情境决定。我们提出 COMETH (Contextual Organization of Moral Evaluation from Textual Human inputs，即从文本人类输入中组织道德评估的情境框架)，该框架将概率情境学习器与 LLM 基于语义抽象和人类道德评估集成，用于建模情境如何塑造模糊行为的可接受性。我们构建了一个基于经验数据的 300 个情境数据集，覆盖六个核心行为 (违反禁止杀人、违反禁止欺骗和违反禁止违法)，并收集来自 N=101 名参与者的三元判断 (指责/中性/支持)。预处理管道通过 LLM 过滤器和 MiniLM 嵌入进行标准化处理，并使用 K 均值聚类生成稳健、可重复的核心行为聚类。COMETH 随后通过聚类从人类判断分布中学习情境特定的道德情境，并使用原则方法的发散准则进行聚类。为实现泛化和解释预测，通用模块提取简洁的、非评判性的二进制情境特征并在透明的似然模型中学习特征权重。经实证，COMETH 相对于端到端 LLM 提示大约翻倍了与多数人类判断的对齐程度 (平均约 60% vs. 约 30%)，同时揭示了其预测的关键情境特征。贡献包括：(i) 基于经验的道德情境数据集，(ii) 将人类判断与模型驱动的情境学习和 LLM 语义相结合的可重复管道，(iii) 一种可解释的端到端 LLM 替代方案，用于情境敏感的道德预测和解释。
引用
@article{arxiv.2512.21439,
title = {Morality is Contextual: Learning Interpretable Moral Contexts from Human Data with Probabilistic Clustering and Large Language Models},
author = {Geoffroy Morlat and Marceau Nahon and Augustin Chartouny and Raja Chatila and Ismael T. Freire and Mehdi Khamassi},
journal= {arXiv preprint arXiv:2512.21439},
year = {2025}
}
备注
11 pages, 5 figures, +24 pages of Appendix