一种面向 AI 与 AGI 安全工程的病理心理学方法
人工智能
2018-05-24 v1
摘要
AI 技术中动力学复杂性已接近复杂自适应系统，从而削弱了在 AI 安全背景下进行形式化可控性与可达性分析的可行性。由此可见，所设想的人工通用智能（AGI）实例也将面临复杂性挑战。为解决此类问题，我们提出将 AI 与 AGI 中的有害行为建模为心理障碍，从而能够采用病理心理学方法分析和控制失范行为。相应地，我们讨论了病理心理学方法用于 AI 安全的可行性，并提出了关于 AGI 中心理障碍的建模、诊断与治疗研究的总体方向。
引用
@article{arxiv.1805.08915,
title = {A Psychopathological Approach to Safety Engineering in AI and AGI},
author = {Vahid Behzadan and Arslan Munir and Roman V. Yampolskiy},
journal= {arXiv preprint arXiv:1805.08915},
year = {2018}
}