自主 AI 智能体的去中心化治理
人工智能
2025-01-14 v3 新兴技术
摘要
自主 AI 智能体带来了变革性的机遇和显著的治理挑战。现有框架，如欧盟 AI 法案和 NIST AI 风险管理框架，未能充分address 这些智能体的复杂性，这些智能体能够独立做出决策、学习和适应。为弥合这些差距，我们提出了 ETHOS（Ethical Technology and Holistic Oversight System）框架，一种去中心化治理（DeGov）模型，利用 Web3 技术，包括区块链、智能合约和去中心化自治组织（DAO）。ETHOS 建立了 AI 智能体的全局注册表，实现动态风险分类、比例监督和通过像灵魂绑定代币和零知识证明之类的工具进行自动合规监控。此外，该框架集成了去中心化司法系统用于透明的争议解决，引入 AI 特定的法律实体以管理有限责任，由强制保险支持，以确保财务责任并激励伦理设计。通过整合理性、伦理 grounding 和目标对齐的哲学原则，ETHOS 旨在为促进信任、透明和参与式治理创建稳健的研究议程。这种创新框架为监管 AI 智能体提供了可扩展且包容的策略，平衡创新与伦理责任，以满足 AI 驱动未来的需求。
引用
@article{arxiv.2412.17114,
title = {Decentralized Governance of Autonomous AI Agents},
author = {Tomer Jordi Chaffer and Charles von Goins and Bayo Okusanya and Dontrail Cotlage and Justin Goldston},
journal= {arXiv preprint arXiv:2412.17114},
year = {2025}
}