Legal Alignment for Safe and Ethical AI
计算机与社会
2026-01-08 v1
摘要
人工智能（AI）的对齐涉及规范性问题，即指定AI系统应如何行动，以及技术性问题，即确保AI系统遵守这些规范。目前，AI对齐通常忽略了一个重要的知识和实践来源：法律。本文旨在填补这一空白，通过探讨如何利用法律规则、原则和方法来解决对齐问题，并指导设计安全、伦理的AI系统。这个新兴领域——法律对齐——聚焦于三个研究方向：（1）设计AI系统以遵守通过合法机构和程序制定的法律规则；（2）采纳法律解释的方法来指导AI系统的推理与决策；（3）利用法律概念作为应对AI系统可靠性、信任和合作挑战的结构蓝图。这些研究方向提出了新的概念、实证和制度问题，包括审查特定AI系统应遵循的法律、评估其在实际环境中的法律合规性，以及发展支持法律对齐实际实施的治理框架。解决这些问题需要跨法律、计算机科学及其他学科的专业知识，为这些学科社区提供了合作设计更好AI系统的机会。
引用
@article{arxiv.2601.04175,
title = {Legal Alignment for Safe and Ethical AI},
author = {Noam Kolt and Nicholas Caputo and Jack Boeglin and Cullen O'Keefe and Rishi Bommasani and Stephen Casper and Mariano-Florentino Cuéllar and Noah Feldman and Iason Gabriel and Gillian K. Hadfield and Lewis Hammond and Peter Henderson and Atoosa Kasirzadeh and Seth Lazar and Anka Reuel and Kevin L. Wei and Jonathan Zittrain},
journal= {arXiv preprint arXiv:2601.04175},
year = {2026}
}