利用遗传编程演化字符级 DenseNet 架构
计算与语言
2020-12-07 v1 机器学习
神经与进化计算
摘要
DenseNet 架构在图像分类任务中展现出优异性能，但将字符级 DenseNet（char-DenseNet）架构用于文本分类任务的研究十分有限。目前尚不清楚何种 DenseNet 架构对文本分类任务最优。char-DenseNet 的设计、训练与测试的迭代任务是一个需要专家领域知识的 NP-Hard 问题。进化深度学习（EDL）已被用于自动设计图像分类领域的 CNN 架构，从而减轻了对专家领域知识的依赖。本研究展示了利用 EDL 演化 char-DenseNet 架构用于文本分类任务的首次工作。一种新颖的基于遗传编程的算法（GP-Dense）结合间接编码方案，促进了高性能 char-DenseNet 架构的演化。该算法在两个流行的文本数据集上进行了评估，并将最优演化模型与四种当前最先进的字符级 CNN 和 DenseNet 模型进行了基准比较。结果表明，该算法为两个数据集演化出高性能模型，在模型准确率上优于两种最先进模型，在参数量上优于三种最先进模型。
引用
@article{arxiv.2012.02327,
title = {Evolving Character-Level DenseNet Architectures using Genetic Programming},
author = {Trevor Londt and Xiaoying Gao and Peter Andreae},
journal= {arXiv preprint arXiv:2012.02327},
year = {2020}
}
备注
Submitted to EvoStar 2021