文档介绍：卷积神经网络算法分析及图像处理示例
摘要:卷积神经网络具有局部结合、权值共享及下采样等特征,可有效地降低网络的复杂度减少训练参数的数目。基于这些优越特性,它在各种信息处理中的性能优于传统的神经网络。本文首先介绍神经网络,进而详细的分析了卷卷积神经网络算法分析及图像处理示例
摘要:卷积神经网络具有局部结合、权值共享及下采样等特征,可有效地降低网络的复杂度减少训练参数的数目。基于这些优越特性,它在各种信息处理中的性能优于传统的神经网络。本文首先介绍神经网络,进而详细的分析了卷积神经网络的原理及结构,包括卷积层、池化层、全连接层,并利用TensorFlow简单的展示卷积神经网络用于图像处理。
关键词:神经网络;卷积神经网络;TensorFlow
中图分类号:TP391文献标识码:A
文章编号:1009-3044(2019)34-0176-02
1概述
神经网络最早始于1943年的神经生理学家沃伦·麦克洛克和数学家沃尔特·皮茨,他们在根据人脑神经结构提出了感知机神经元模型。1958年Rosenblatt提出了由两层神经元组成的神经网络并实现用单个感知机的训练。该模型数学表示为Y=f(∑w*x),f(x)为激活函数,w为权值向量,x表示模型输入,Y表示模型输出。神经网络实质是一个多层的复合函数。在神经网络中每一层神经元仅仅与下一层的神经元全连接,而在同一层或跨层的神经元彼此都不连接。这种简单的神经网络结构,被称为多层前馈神经网络。1986年杰弗里·辛顿和大卫·鲁梅尔哈特等人提出了反向传播(BP)算法系统简洁地阐述反向传播算法(BP)在神经网络模型上的应用。该算法主要分两步骤:通过正向传播输入信号,输出分类信息;然后通过反向传播误差值,链式求导反向调整全网权值,让下一轮的训练中得到更加准确的输出。该算法把网络权值优化的运算量,从原来的与神经元个数的平方成正比,下降到只和神经元数本身成正比,使得权值参数的调整变得简单易行。该文解决了两层神经网络所需要的复杂计算量问题,从而带动了两层神经网络研究的热潮。近年来,随着计算力的增强及数据的普及,神经网络得到了迅速发展,神经网络的研究进入了白热化阶段,为了获得更好的结果,神经网络的应用也越来越广泛。
神经网络的训练包括设置不同的学习率、激活函数类型、正则类型、正则率、网络层设置等参数来使训练达到良好的结果。图1是根据不同的迭代次数,采用不同的学习率、激活函数、不同的正则类型和正则率、以及不同的网络层结构进行简单训练的demo示例。
2卷积神经网络
卷积神经网是20世纪60年代Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的网络结构可以有效地降低反馈神经网络的复杂性,进而提出了卷积神经网络CNN。如今,CNN已经成为众多科学领域的研究应用热点之一,特别是在图像处理领域,由于该网络避免了对图像的复杂前期预处理,可以直接输入原始图像,因而得到了更为广泛的应用。。卷积神经网本质上是一个权值共享的多层复合函数。该模型的特征使得图像在平移、扭曲、缩放等操作中具有一定程度的不变性,并具有很强的鲁棒性和容错能力,并且也易于训练和优化。如图2,卷积神经网络分为输入层、卷积层、下采样层、全连接层以及输出层。
卷积层,卷积