1 / 8
文档名称:

深度学习.doc

格式:doc   大小:21KB   页数:8页
下载后只包含 1 个 DOC 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

深度学习.doc

上传人:wz_198614 2017/6/6 文件大小:21 KB

下载得到文件列表

深度学习.doc

相关文档

文档介绍

文档介绍:------------------------------------------------------------------------------------------------ ——————————————————————————————————————深度学习卷积神经网络卷积神经网络被设计用来处理到多维数组数据的, 比如一个有 3 个包含了像素值 2-D 图像组合成的一个具有 3 个颜色通道的彩色图像。很多数据形态都是这种多维数组的: 1D 用来表示信号和序列包括语言, 2D 用来表示图像或者声音, 3D 用来表示视频或者有声音的图像。卷积神经网络使用 4 个关键的想法来利用自然信号的属性:局部连接、权值共享、池化以及多网络层的使用。图2 卷积神经网络内部一个典型的卷积神经网络结构( 如图 2) 是由一系列的过程组成的。最初的几个阶段是由卷积层和池化层组成, 卷积层的单元被组织在特征图中, 在特征图中, 每一个单元通过一组叫做滤波器的权值被连接到上一层的特征图的一个局部块, 然后这个局部加权和被传给一个非线性函数,比如 ReLU 。在一个特征图中的全部单元享用相同的过滤器, 不同层的特征图使用不同的过滤器。使用这种结构处于两方面的原因。首先, 在数组数据中, 比如图像数据, 一个值的附近的值经常是高度相关的, 可以形成比较容易被探测到的有区分性的局部特征。其次, 不同位置局部统计特征不太相关的, 也就是说, 在一个地方出现的某个特征, 也可能出现在别的地方, 所以不同位置的单元可以共享权值以及可以探测相同的样本。在数学上, 这种由一个特征图------------------------------------------------------------------------------------------------ ——————————————————————————————————————执行的过滤操作是一个离线的卷积,卷积神经网络也是这么得名来的。卷积层的作用是探测上一层特征的局部连接,然而池化层的作用是在语义上把相似的特征合并起来, 这是因为形成一个主题的特征的相对位置不太一样。一般地, 池化单元计算特征图中的一个局部块的最大值, 相邻的池化单元通过移动一行或者一列来从小块上读取数据, 因为这样做就减少的表达的维度以及对数据的平移不变性。两三个这种的卷积、非线性变换以及池化被串起来, 后面再加上一个更多卷积和全连接层。在卷积神经网络上进行反向传播算法和在一般的深度网络上是一样的,可以让所有的在过滤器中的权值得到训练。深度神经网络利用的很多自然信号是层级组成的属性, 在这种属性中高级的特征是通过对低级特征的组合来实现的。在图像中, 局部边缘的组合形成基本图案, 这些图案形成物体的局部, 然后再形成物体。这种层级结构也存在于语音数据以及文本数据中, 如电话中的声音, 因素, 音节, 文档中的单词和句子。当输入数据在前一层中的位置有变化的时候,池化操作让这些特征表示对这些变化具有鲁棒性。卷积神经网络中的卷积和池化层灵感直接来源于视觉神经科学中的简单细胞和复杂细胞。这种细胞的是以 LNG-V1-V2-V4-IT 这种层级结构形成视觉回路的。当给一个卷积神经网络和猴子一副相同的图片的时候, 卷积神经网络展示了猴子下颞叶皮质