面向数字媒体的符号张量神经网络——从张量处理经BNF图规则到CREAMS应用
计算机视觉与模式识别
2018-12-13 v2 多媒体
摘要
这份关于卷积神经网络（CNN）及其在数字媒体研究中应用的教程材料基于符号张量神经网络的概念。STNN表达式集合以巴科斯-瑙尔范式（BNF）指定，并标注了有标号无环有向图（DAG）的典型约束。BNF归纳始于一组带有额外（至多五个）修饰域（含张量深度与共享域）的神经单元符号。归纳规则不仅给出一般图结构，也给出单元的残差块特定捷径。通过用户定义单元及其实例引入了网络片段模块化的句法机制。此外，指定了对偶BNF规则以生成对偶符号张量神经网络（DSTNN）。STNN与DSTNN的联合解释给出了训练阶段反向传播的梯度张量的正确流。所提出的CNN符号表示在六个通用数字媒体应用（CREAMS）中说明：压缩、识别、嵌入、标注、用于人机交互的3D建模，以及基于数字媒体对象的数据安全。为使CNN描述及其梯度流完整，对所有给出的应用，均给出了所用核心单元的数学定义损失/增益函数及梯度流方程的符号表示。本教程旨在使读者确信STNN不仅是用于公开展示基于CNN的CREAMS问题解的便捷符号记号，也是具有自动生成应用源代码潜力的设计蓝图。
引用
@article{arxiv.1809.06582,
title = {Symbolic Tensor Neural Networks for Digital Media - from Tensor Processing via BNF Graph Rules to CREAMS Applications},
author = {Wladyslaw Skarbek},
journal= {arXiv preprint arXiv:1809.06582},
year = {2018}
}