智能但不道德？人类-AI 决策中的道德对齐
人机交互
2026-04-17 v1
摘要
在高风险的人工智能支持决策中，考虑因素不仅是技术性的，还涉及关于公平性、责任和伤害的道德判断。虽然先前研究主要关注功能或行为对齐，但本文认为道德对齐可能是人类-AI 决策更基本的维度。道德对齐被定义为 AI 系统决策逻辑所嵌入价值观与利益相关者道德直觉之间的感知一致性。基于道德基础理论(Moral Foundations Theory)，本文采用多利益相关者视角，阐明道德(不)对齐对将 AI 有效集成到敏感情境中的重要性。
引用
@article{arxiv.2604.14371,
title = {Smart But Not Moral? Moral Alignment In Human-AI Decision-Making},
author = {Christiane Ernst and Luis Gutmann and Domenique Zipperling and Kathrin Figl and Niklas Kühl},
journal= {arXiv preprint arXiv:2604.14371},
year = {2026}
}
备注
Accepted at the TREO Forum of the European Conference on Information Systems 2026