文档介绍：卷积神经网络
摘要 ：卷积神经网络是近年来广泛应用于模式识别、图像处理等领域的一种高效识别算法，它具有结构简 单、训练参数少和适应性强等特点。本文从卷积神经网络的发展历史开始，详细阐述了卷积神经网络的网 络结构、神经元模型和训练算法。在此基础上以卷积神经网络在人脸检测和形状识别方面的应用为例，简 单介绍了卷积神经网络在工程上的应用，并给出了设计思路和网络结构。
关键字 ：模型；结构；训练算法；人脸检测；形状识别
0 引言
卷积神经网络是人工神经网络的一种已成为当前语音分析和图像识别领域的研究热点， 它的权值共享网络结构使之更类似于生物神经网络， 降低了网络模型的复杂度， 减少了权值 的数量。 该优点在网络的输入是多维图像时表现的更为明显， 使图像可以直接作为网络的输
入，避免了传统识别算法中复杂的特征提取和数据重建过程。 卷积网络是为识别二维形状而
特殊设计的一个多层感知器， 这种网络结构对平移、 比例缩放、 倾斜或者共他形式的变形具 有高度不变性。
1 卷积神经网络的发展历史
1962 年 Hubel 和 Wiesel 通过对猫视觉皮层细胞的研究，提出了感受野 (receptive field) 的概念， 1984 年日本学者 Fukushima 基于感受野概念提出的神经认知机 (neocognitron) 可以 看作是卷积神经网络的第一个实现网络，也是感受野概念在人工神经网络领域的首次应用。 神经认知机将一个视觉模式分解成许多子模式 (特征 )，然后进入分层递阶式相连的特征平面
进行处理， 它试图将视觉系统模型化， 使其能够在即使物体有位移或轻微变形的时候， 也能 完成识别。 神经认知机能够利用位移恒定能力从激励模式中学习， 并且可识别这些模式的变 化形，在其后的应用研究中， Fukushima 将神经认知机主要用于手写数字的识别。随后，国 内外的研究人员提出多种卷积神经网络形式， 在邮政编码识别和人脸识别方面得到了大规模 的应用。
通常神经认知机包含两类神经元，即承担特征抽取的 S-元和抗变形的 C-元。S-元中涉
及两个重要参数， 即感受野与阈值参数， 前者确定输入连接的数目， 后者则控制对特征子模 式的反应程度。 许多学者一直致力于提高神经认知机的性能的研究： 在传统的神经认知机中， 每个S-元的感光区中由 C-元带来的视觉模糊量呈正态分布。如果感光区的边缘所产生的模 糊效果要比中央来得大，S-元将会接受这种非正态模糊所导致的更大的变形容忍性。 我们希
望得到的是， 训练模式与变形刺激模式在感受野的边缘与其中心所产生的效果之间的差异变 得越来越大。为了有效地形成这种非正态模糊， Fukushima提出了带双C-元层的改进型神经 认知机。
Trotin 等人提出了动态构造神经认知机并自动降低闭值的方法 [1]，初始态的神经认知机 各层的神经元数目设为零， 然后会对于给定的应用找到合适的网络规模。 在构造网络过程中， 利用一个反馈信号来预测降低阈值的效果， 再基于这种预测来调节阈值。 他们指出这种自动 阈值调节后的识别率与手工设置阈值的识别率相若， 然而， 上述反馈信号的具体机制并未给 出，并且在他们后来的研究中承认这种自动阈值调节是很困难的 【8】。
Hildebrandt 将神经认知机看作是一种线性相关分类器， 也通过修改阈值以使神经认知机 成为最优的分类器。 Lovell 应用 Hildebrandt 的训练方法却没有成功。对此， Hildebrandt 解 释的是， 该方法只能应用于输出层，而不能应用于网络的每一层。事实上， Hildebrandt 没有
考虑信息在网络传播中会逐层丢失。
Van Ooyen 和 Niehuis 为提高神经认知机的区别能力引入了一个新的参数。事实上，该 参数作为一种抑制信号， 抑制了神经元对重复激励特征的激励。 多数神经网络在权值中记忆 训练信息。根据 Hebb 学习规则，某种特征训练的次数越多，在以后的识别过程中就越容易 被检测。也有学者将进化计算理论与神经认知机结合 【9】，通过减弱对重复性激励特征的训 练学习， 而使得网络注意那些不同的特征以助于提高区分能力。 上述都是神经认知机的发展 过程，而卷积神经网络可看作是神经认知机的推广形式， 神经认知机是卷积神经网络的一种 特例。
卷积神经网络本身可采用不同的神经元和学习规则的组合形式。其中一种方法是采用 M-P 神经元和 BP 学习规则的组合，常用于邮政编码识别中。还有一种是先归一化卷积神经 网络，然后神经元计算出用输入信号将权值和归一化处理后的值， 再单独训练每个隐层得到
权值， 最后获胜的神经元输出活性， 这个方法在处理二值数字图像时比较可行， 但没有在大 数据库中得到验证。第三种方法