文档介绍：基于等距算法模式识别的学习与研究
一、Isomap算法实现的基本步骤
.等距离映射（Isomap）
该算法是一种全局非线性优化算法。Isomap算法以多维尺度变换（fmult mensional scaling ,简称MDS为基础，利用数据点间的测地线距离来替代 MDS 中的欧氏距离，力求保持数据的内在流形结构，最大限度的保持数据点问在低维 空间中的欧氏距离误差最小，最终实现数据点的低维空间的表示。 Isomap算法
的目的是将高维空间 Rn中的数据集合X {xi,x2, ,Xn}映射到低维流形空间
Rd（d D）中，得到低维嵌人数据集合：
y {y, ,yN}
.具体算法步骤如下：
步骤1：计算样本点Xi的邻域点集（取欧氏距离最近的个近邻点），构造邻域图。
步骤2:计算测地线距离。根据邻域图，使用计算样本点间的最短距离dc（Xi,Xj）, 近似看作为两点间的测地线距离dM （Xi, Xj）。
步骤3 :使用 MDS对最短距离矩阵Dc。重构d维嵌入。，
（DJ （I InI：/N）Dg（I InI：/N）2,令 1 2 3 是矩阵 （DJ 的前
d个最大的特征值，vi, 2, , ~为对应的d个特征向量，则d维嵌入坐标为：
1 1
y [，R，，yN]d n 1
j
1 d N
Isomap算法作为常用的流形学习算法，在低维空间中可以有效保持高维空 间数据的非线性结构，但在小样本情况时，当每类样本数小于构造邻域图数值尼 时，计算得出的各个点的最短距离就不能正确得出测地线距离了。本文使用
Gabor' s波对预处理后的图像进行5个中心频率、8个方向的滤波，输出40副 滤波图像。但在增加了样本数量的同时，也对系统的硬件要求提出了更高的要求。 为了进一步降低计算量，本文提出使用Gabor特征融合方法，很好地解决了这一 问题。将每个中心频率的不同方向滤波结果进行相加， 得到一个该中心频率的滤
波图像。图l给出对ORL＞据库中的人脸经过Gabor~,波后相同中心频率的8个 不同方向的滤波结果相加后的图像。通过实验结果的比较表明，使用该方法对一 副图像计算得出的5副图像和将一副图像的40副Gabor滤波图像作为Isomap
算法的输入集合，其识别率相同，但输入量是原方法的 1/5,减小TIsomap算法
的计算量，提高了算法的识别性能。对人脸进行预处理后，进行Gabor特征融合， 再采用Isomap算法对数据进行维数约减，低维空间中保持各个样本点的非线性 结构；支持向量机在处理小样本问题有较好的识别性能， 因此使用支持向量机作
为分类器进一步提高算法识别率。
ICA算法的研究可分为基于信息论准则的迭代估计方法和基于统计学的代数方法两大
类，从原理上来说，它们都是利用了源信号的独立性和非高斯性。 基于信息论的方法研究中，
各国学者从最大嫡、最小互信息、最大似然和负嫡最大化等角度提出了一系列估计算法。如
FastICA算法，Infomax算法，最大似然估计算法等。基于统计学的方法主要有二阶累积量、
四阶累积量等高阶累积量方法。本实验主要讨论 FastICA算法。
一般情况下，所获得的数据都具有相关性， 所以通常都要求对数据进行初步的白化或球化处
理，因为白化处理可去除各观测信号之间