文档介绍：(实验目的tttt实验一:(1)对给出的两类数据用感知器算法划分,,,{(0,0),(1,1)};,,{(0,1),(1,0)}12看是否可行,解释线性分类的局限性t(2)按多项式映射的方式增加到三维情况下,再一次用感知器算yxxxx,(1,2,12)法划分解决,可视化所得到的超平面,评价结果。实验二:(1)可视化simple_data_MDA中的二维数据,在以上数据图中画出最佳投影的方向,并画出分类线,将点投影到最佳方向上。(2)Iris_data四维数据,用MDA算法提取两个最佳的投影方向,并画出投影后的数据。评论结果。二((实验原理实验一:线性判别函数的可行性,可以表现在线性函数的特性上。在二维平面中,任何一条直线可以把平面上的所有点分成三种类型:大于0,等于0和小于0。在高维空间里,超平面同样可以把空间上的点分成大于0,等于0和小于0的三种。这就是,线性判别函数可进行分类的基本特性。另外,在一些情况下,有些高维数据可能不能够用线性判别函数进行分类,也就是说,这些数据是线性不可分的。此时,可能可以用高维中的超曲线进行很好的分类,但是由于超曲线的判别函数训练难度大计算量高,所以,一般情况下,遇到此情况可以把数据映射到更高维的对其可以实现线性可分的空间中去。一个“判别函数”是指由样本数据X的各个分量的线性组合而成的函数,如式1-1所示:tgxwxw(),,(式1-1)0w其中,是权向量,表示法向矢量的方向,而ww||为法向量;是阈值权或偏置,w0表示距离原点的远近。一个线性判别函数其实是利用一个超平面判定面把特征空间分割成两w个区域,超平面的方向由权向量w确定,而位置由阈值权确定。0按式1-1进行两类线性分类器时,其判定规则如下:如果时,判定为类别1;gx()0,如果时,判定为类别2;如果时,可以判定为两类中的任意一类。实际情gx()0,gx()0,况下,一般要进行分类的类别不会只有两类的。利用线性判别函数设计多类分类器的方法有很多。如,可以把c类问题转化为c个两类别的问题,其中第i个问题是用线性判别函数把属于第i类的与不属于第i类的区分开来。不过,这可能会产生无法确定的区域。为此可以gxgx()(),用线性机进行处理,即,如果对一切,有时,把x分为第i类;如果ij,ijgxgx()(),时,拒绝判定。线性机把特征空间分为c个判决区域,把测试点分在判决函ij数最大的那个区域内。明显地,线性机的判决区域是凸的,这肯定限制了分类器的适应性和精确性。w由于式1-1中还含有常数项阈值权,现将其该写成更为方便的形式,如下式1-2所0示:t(式1-2)gxay(),其中,1w1w,,,,,,,,00,,,,,,,,xw11,,,,,,,,,(式1-3)y,,a,,,,,,,,,,XW,,,,,,,,xwd,,,,d,,,,y被称为增广特征向量,被称为增广权向量。式1-2实际上是把式1-1从d维x空间a映射到d+1维y空间中,在数学上几乎没有任何变化,但是式1-2增加了一个常量,表示在tayx空间的所有样本间距离在变换后保持不变。而且,由确定的超平面判定面都通过y空间的原点,即使在x空间中对应的超平面可能处于任何位置中。本文所研究的是两类的感知器准则函数,是最早期的线性判别函数。在感知器准