文档介绍：: .
深度学****是机器学****研究中的一个新的领域， 其动机在于建立、模拟人脑进
行分析学****的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。
同机器学****方法一样，深度机器学****方法也有监督学****与无监督学****之
分•不同的学****框架下建立的学****br/>，卷积神经网络（Convolutional neural networks ，
简称CNNs ）就是一种深度的监督学****下的机器学****模型， 而深度置信网（Deep
Belief Nets，简称DBNs ）就是一种无监督学****下的机器学****模型。
1简介
2基础概念
?深度
?解决问题
3核心思想
4例题
5转折点
6成功应用
1简介
深度学****的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种 深度学****结构。深度学****通过组合低层特征形成更加抽象的高层表示属性类别或 特征，以发现数据的分布式特征表示。[2]
深度学****的概念由Hinton等人于2006年提出。基于深信度网（DBN）提出 非监督贪心逐层训练算法，为解决深层结构相关的优化难题带来希望， 随后提出
多层自动编码器深层结构。此外 Lecun等人提出的卷积神经网络是第一个真正 多层结构学****算法，它利用空间相对关系减少参数数目以提高训练性能。 [2]
2基础概念
深度：从一个输入中产生一个输出所涉及的计算可以通过一个流向图 （flow
graph）来表示：流向图是一种能够表示计算的图，在这种图中每一个节点表示一个基 本的计算并且一个计算
深度学****的值（计算的结果被应用到这个节点的孩子节点的值）。考虑这样一 个计算集合，它可以被允许在每一个节点和可能的图结构中，并定义了一个函数 族。输入节点没有孩子，输出节点没有父亲。
这种流向图的一个特别属性是深度（depth）:从一个输入到一个输出的最长 路径的长度。
传统的前馈神经网络能够被看做拥有等于层数的深度 （比如对于输出层为隐
层数加1）。SVMs有深度2（一个对应于核输出或者特征空间，另一个对应于所 产生输出的线性混合）。⑻
解决问题：
需要使用深度学****解决的问题有以下的特征：
深度不足会出现问题。
人脑具有一个深度结构。
认知过程逐层进行，逐步抽象。
深度不足会出现问题
在许多情形中深度2就足够表示任何一个带有给定目标精度的函数。 但是其 代价是：图中所需要的节点数（比如计算和参数数量）可能变的非常大。理论结果 证实那些事实上所需要的节点数随着输入的大小指数增长的函数族是存在的。
我们可以将深度架构看做一种因子分解。 大部分随机选择的函数不能被有效 地表示，无论是用深的或者浅的架构。但是许多能够有效地被深度架构表示的却 不能被用浅的架构高效表示。一个紧的和深度的表示的存在意味着在潜在的可被 表示的函数中存在某种结构。如果不存在任何结构，那将不可能很好地泛化。
大脑有一个深度架构
例如，视觉皮质得到了很好的研究，并显示出一系列的区域，在每一个这种 区域中包含一个输入的表示和从一个到另一个的信号流（这里忽略了在一些层次 并行路径上的关联，因此更复杂）。这个特征层次的每一层表示在一个不同