不道德的研究：如何创造恶意人工智能
人工智能
2017-06-06 v2
摘要
网络安全研究既包括发表关于恶意利用的论文，也包括发表关于设计保护网络基础设施工具的信息。正是这种道德黑客与安全专家之间的信息交流，造就了一个平衡良好的网络生态系统。在蓬勃发展的 AI 安全工程领域，已有数百篇论文发表了关于创建安全机器的不同提案，但据我们所知，尚无关于如何设计恶意机器的出版物。此类信息的可用性对于计算机科学家、数学家以及其他关注 AI 安全并试图避免危险 AI 自发出现或被故意创造的人士具有极大价值，因为危险 AI 可能对人类活动产生负面影响，最坏情况下甚至导致人类物种的彻底毁灭。本文提供了一些关于创建恶意人工智能 (MAI) 的通用指南。
引用
@article{arxiv.1605.02817,
title = {Unethical Research: How to Create a Malevolent Artificial Intelligence},
author = {Federico Pistono and Roman V. Yampolskiy},
journal= {arXiv preprint arXiv:1605.02817},
year = {2017}
}