通过修剪可训练神经网络生成显式知识
凝聚态物理
2007-05-23 v1 神经与进化计算
数据分析、统计与概率
摘要
本文提出了一种从数据中提取显式知识的通用方法。主要思想包括：1) 最大程度地减少网络复杂度（不仅仅是删除神经元或突触，还要删除所有不必要的元素和信号，并降低元素的复杂度）、2) 使用可调整且灵活的修剪过程（修剪序列不应预先确定——用户应有机会按照自己的方式修剪网络，以实现特定目的的网络结构，以提取特定类型和形式的规则）、3) 以任何所需的形式提取规则。关于网络架构和训练过程的一些考虑和说明，以及当前修剪技术和规则提取算法的适用性也被讨论。该技术已由我们开发超过10年，使我们能够创建数十个基于知识的专家系统。本文提出了从经验数据中提取显式知识的通用三步方法。
引用
@article{arxiv.cond-mat/0307083,
title = {Generation of Explicit Knowledge from Empirical Data through Pruning of Trainable Neural Networks},
author = {A. N. Gorban and Eu. M. Mirkes and V. G. Tsaregorodtsev},
journal= {arXiv preprint arXiv:cond-mat/0307083},
year = {2007}
}
备注
9 pages, The talk was given at the IJCNN '99 (Washington DC, July 1999)