如何用深度学习代码行事

本文的前提是，对大型语言模型的构成与运作的基本理解具有关键的紧迫性。为此，我们提取了 OpenAI 的 GPT-2 的表征地图，采用我们阐明的两类深度学习代码：一类关乎模型本身，一类支撑围绕模型构建的应用。然后我们通过两个流行的 GPT-2 应用的案例研究来验证该地图：文字冒险游戏 AI Dungeon 和语言艺术项目 This Word Does Not Exist。这样的练习使我们能够检验批判代码研究在以深度学习代码为研究对象时的潜力，并证明代码作为批判人工智能与批判机器学习研究子领域研究者的分析焦点的有效性。然而更广泛地说，我们的工作引起人们对普通用户可能与之交互甚至引导深度学习系统行为的手段的关注，并由此致力于揭开“AI”某些光韵神秘的面纱。关键在于达成关于大型语言模型负责任应用的有识社会技术共识的可能性，以及对其创造性能力更广阔的感知——事实上，理解参与在何时何地发生，使我们所有人都能成为机器学习系统发展中更积极的参与者。