文档介绍：深度学****的基本理论与方法
成科扬
2013年10月30日
・概述
・动机
・深度学****简介
・深度学****的训练过程
・深度学****的具体模型及方法
・深度学****的性能比较
・深度学****的应用
・展望
・参考文献
・相关程序软件及链接
•深度学****一种基于无监督特征学****和特征 层次结构的学****方法
•可能的的名称：
-深度学****br/>-特征学****br/>-无监督特征学****br/>传统的模式识别方法:
Low-level
sensing
Pre-
processing
extract.
Feature
Feature
selection
Inference:
prediction,
recognition
•良好的特征表达，对最终算法的准确性起了非常关键的作用;
•识别系统主要的计算和测试工作耗时主要集中在特征提取部分; •特征的样式目前一般都是人工设计的，靠人工提取特征。
动机一一为什么要自动学****特征
• 实验：LP—B Multi pie Kernel Learnin
—Gehler and Nowozin，On Feature Combination for Multiclass 0bject Classification, ICCV' 09
•采用39个不同的特征
-PHOG, SIFT, V1S+, Region Cov. Etc.
•在普通特征上MKL表现 有限
50
Caltech-256 (39 kernels)
结论：特征更重要
-best feature
product average
-e-MKL
-•-LP—p
・•・LP-B
—•—Griffin, Holub and Perona (TR06)
Pinto, Cox and DiCarlo (PLOS08)
10 20 30 40 50
draining examples
动机——为什么要自动学****特征
・机器学****中，获得好的特征是识别成功的关键
・目前存在大量人工设计的特征，不同研究对象特征不同，特征 具有多样性,如：SIFT, HOG, LBP等
・手工选取特征费时费力，需要启发式专业知识，很大程度上靠 经验和运气
・是否能自动地学****特征?
*
*
SIFT
Spin image
HoG
Input Ivikbm Grud»ent Imjicc
()neytauo«i Voting
、、宜 CXerlupping Block%
…鼻••
KI* 1
•j
RIFT
•r
<b>
GLOH
—"o"
E9SOiniEiEi— I Zi>1
—、:v rj'爼 w ■何■ nt —
Textons