深度卷积网络中基于同一性的模式：生成对抗音系学与重叠
计算与语言
2021-11-23 v2 人工智能
摘要
本文利用深度卷积神经网络从原始连续数据建模语音中称为重叠的基于同一性模式（或复制）的无监督学习。我们使用 Beguš (2021a; arXiv:2006.02951) 的 ciwGAN 架构，其中语音中有意义表征的学习源于对 CNN 生成信息性数据的要求。我们提出一种对语音上训练的 CNN 进行 wug 测试的技术，并基于四项生成测试论证该网络在其潜空间中学习表征基于同一性的模式。通过仅操控潜空间中两个类别变量，我们在大多数情况下可主动将非重叠形式转为重叠形式，且输出无其他实质变化。我们还论证该网络将基于同一性的模式扩展到未观测数据。探索基于同一性模式的有意义表征如何在 CNN 中涌现，以及训练范围外的潜空间变量如何与输出中基于同一性模式相关，对神经网络可解释性具有普遍意义。
引用
@article{arxiv.2009.06110,
title = {Identity-Based Patterns in Deep Convolutional Networks: Generative Adversarial Phonology and Reduplication},
author = {Gašper Beguš},
journal= {arXiv preprint arXiv:2009.06110},
year = {2021}
}
备注
Paper accepted at TACL