面向伦理推理器的开发：面向复杂AI系统的概率推理与决策制定集成
人工智能
2025-03-03 v1
摘要
对于在复杂现实环境中运行的AI和自主系统而言，计算伦理框架至关重要。现有方法通常缺乏将伦理原则融入动态和模糊语境所需的适应性，限制了其在不同场景中的有效性。为了应对这些挑战，我们概述了构建一个整体性元级框架的必要要素，该框架结合了中间表示、概率推理和知识表示。其中的规范强调可扩展性，在个体决策层面和多智能体系统的集体动态中均支持伦理推理。通过将理论原则与情境因素相结合，该框架促进了结构化且具有情境感知的决策制定，确保与总体伦理标准保持一致。我们进一步探讨了概述伦理推理器应如何运作的拟议定理，为实际实现提供了基础。这些构造旨在支持开发稳健且在伦理上可靠的AI系统，使其能够应对现实世界道德决策场景中的复杂性。
引用
@article{arxiv.2502.21250,
title = {Towards Developing Ethical Reasoners: Integrating Probabilistic Reasoning and Decision-Making for Complex AI Systems},
author = {Nijesh Upreti and Jessica Ciupa and Vaishak Belle},
journal= {arXiv preprint arXiv:2502.21250},
year = {2025}
}