文档介绍：Deep Learning
MHZshan
内容结构
1
2
3
概念介绍
算法介绍
现有库
概念简介
为什么有Deep learning?Why
什么是Deep learning?What
怎么来的?
概念简介
机器学习思路(图像识别为例):
FR: 手工选取费力,费时,专业性能力
Input Feature Representation LA
概念简介
特征提取过程
概念简介
机器学习就是通过算法,使得机器能从大量的历史数据中学习规律,从而对新的样本做智能识别或预测未来。
深度学习是机器学习研究中的一个新的领域,通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。
深度学习是无监督学习的一种(仅对特征提取)。
又名Unsupervised Feature Learning
概念简介
1、浅层学习(Shallow Learning):机器学习第一次浪潮
基于BP(反向传播)算法,1层或2层
主要算法:LR,SVM,MLP,Boosting,Bayes
2、深度学习(Deep Learning):机器学习第二次浪潮
逐层初始化,layer-wise,多层
主要算法:AutoEncoder, N,RNN
“深度模型”是手段,“特征学习”是目的。
算法介绍
算法介绍
编码器
AutoEndcoder
dAE
DBM
CNN
RNN类
RNN
LSTM
算法介绍-AutoEncoder
1、AutoEncoder
f(W, b)
g(W’, b’)
原始数据
特征
重构数据
算法介绍-AutoEncoder
2、Denoising Autoencoder