基于分布式账本技术的安全通用人工智能

背景。专家观察者和人工智能（AI）发展指标表明，AI 将在几十年内超越人类智能。超越人类能力的通用 AI（AGI）究竟是有史以来最大的福音还是灾难，尚不得而知。没有证据表明 AGI 会造福人类，也没有证据表明 AGI 不会伤害或消灭人类。目的。我提出一组逻辑上截然不同的概念组件，它们是充分必要的，以 1) 确保大多数已知的 AGI 场景不会伤害人类，以及 2) 将 AGI 的价值观和目标与人类价值观稳健地对齐。方法。通过系统地处理通向恶意 AI 的每一条路径类别，我们可以推导出纠正该类别所需的方法/公理。结果与讨论。分布式账本技术（DLT，区块链）是该提案的核心组成部分，例如，降低黑客攻击的概率，提供审计追踪以检测和纠正错误或识别导致脆弱性或故障的组件并替换它们或远程和/或自动关闭它们，以及通过去中心化应用分离和平衡关键的 AGI 组件。基于 DLT 的智能合约对于应对人类监控和干预无法跟上的 AI 演化是必要的。所提出的公理。1) 通过市场许可获取技术。2) 体现在 DLT 中的透明伦理。3) 通过 DLT 加密的道德。4) 以价值观（伦理）为根源的行为控制结构。5) 所有关键组件的单独条形码标识。6) 配置项（源自业务连续性/灾难恢复规划）。7) 通过 DLT 保障的身份验证。8) 基于 DLT 的智能自动化合约。9) 去中心化应用——通过 DLT 加密的 AI 软件代码模块。10) 通过 DLT 存储的组件使用审计追踪。11) 由 DLT 请愿书增强的社会排斥（拒绝社会资源）。