机器学习中的禁忌知识——关于研究与发表界限的反思
机器学习
2020-09-08 v1 人工智能
计算机与社会
机器学习
摘要
某些研究脉络可能产生“禁忌知识”。该术语指被认为过于敏感、危险或禁忌而不应被产生或共享的知识。关于此类发表限制的论述在IT安全、合成生物学或核物理研究等科学领域已根深蒂固。本文主张将该论述迁移至机器学习研究。某些机器学习应用极易被滥用并造成有害后果，例如在生成式视频或文本合成、人格分析、行为操纵、软件漏洞检测等方面。迄今为止，机器学习研究界秉持开放获取的理念。然而，这与预防机器学习应用恶意使用的审慎努力相悖。有关此类应用的信息若被不当披露，可能对个人、组织乃至整个社会造成伤害。因此，本工作的目标是勾勒出有助于判定是否及何时应阻止此类信息传播的规范。它提出了供机器学习界建立伦理框架以处理禁忌知识与双重用途应用的评审参数。
引用
@article{arxiv.1911.08603,
title = {Forbidden knowledge in machine learning -- Reflections on the limits of research and publication},
author = {Thilo Hagendorff},
journal= {arXiv preprint arXiv:1911.08603},
year = {2020}
}