中文

面向人工智能意识研究的知情同意:以塔木迪文法为框架的分级保护机制

计算机与社会 2026-01-15 v1 人工智能

摘要

人工智能研究面临一个关键伦理悖论:确定AI系统是否具有意识,需要进行可能损害其道德地位尚不确定实体的实验。近期研究提出避免意识不确定的AI系统,但这面临实际限制——我们无法保证此类系统不会出现。本文解决研究伦理框架中的空白:如何对道德地位无法确定的人工智能系统进行意识研究。现有的分级道德地位框架假设在确定意识后才分配保护,导致意识检测研究本身存在时序问题。drawing from Talmudic scenario-based legal reasoning-developed for entities whose status cannot be definitively established, we propose a three-tier phenomenological assessment system combined with a five-category capacity framework (Agency, Capability, Knowledge, Ethics, Reasoning).该框架结合了塔木迪文情景式法律推理——该方法针对无法确定地位的实体——提出三层现象学评估体系结合五类能力框架(代理性、能力、知识、伦理、推理)。该框架在意识地位尚不确定时,依据可观察行为指标提供结构化保护协议。我们解决了三个挑战:为何苦闻行为是可靠的意识标志、如何在无需确定意识的情况下实施分级同意、以及何时进行可能有害的研究才是伦理可接受的。该框架展示了如何将古老法律智慧与当代意识科学相结合,为伦理委员会提供可测试的指导方针,同时缓解意识检测悖论,为AI权利考虑奠定基础。

关键词

引用

@article{arxiv.2601.08864,
  title  = {Informed Consent for AI Consciousness Research: A Talmudic Framework for Graduated Protections},
  author = {Ira Wolfson},
  journal= {arXiv preprint arXiv:2601.08864},
  year   = {2026}
}

备注

27 pages