减少合成媒体研究的恶意使用：机器学习的考量与潜在发布实践
计算机与社会
2019-07-30 v2 机器学习
摘要
本文旨在促进围绕研究规范与实践的细致讨论，以缓解机器学习（ML）进展的有害影响。我们特别关注利用 ML 创建“合成媒体”（例如生成或操纵音频、视频、图像和文本），以及此类研究的发表与发布流程可能呈现的形式，尽管所讨论的许多考量也广泛适用于 ML 研究。我们并非主张研究应在何时或以何种方式分发的特定方案，而是试图梳理一些有用的工具、类比与选项以思考这些问题。我们首先介绍 ML 研究可能被恶意滥用的背景，以及为何尤其是合成媒体的进展正引发担忧。随后更详细地概述 ML 研究导致危害的不同路径，继而审视其他领域的研究风险缓解策略，并识别最值得 ML 与合成媒体研究界效仿的要素。接下来，我们勾勒出这些议题上易致对话两极分化的重要分歧维度。最后，我们以建议作结，提出机器学习界或可受益于：与领域专家合作以增进对风险图景及可能缓解策略的理解；围绕理解 ML 研究影响建立社区与规范，例如通过主要会议的定期研讨会；以及建立机构与系统以支持否则繁琐且易错的发布实践。
引用
@article{arxiv.1907.11274,
title = {Reducing malicious use of synthetic media research: Considerations and potential release practices for machine learning},
author = {Aviv Ovadya and Jess Whittlestone},
journal= {arXiv preprint arXiv:1907.11274},
year = {2019}
}
备注
11 pages. Language fixes and tweaks for clarity