文档介绍：模式识别
授课教师薛耀红
******@cust.
第13讲非监督学****方法
3
主要内容
2. 单峰子集(类)的分离方法
3. 类别分离的间接方法
4. 分级聚类方法
4
5
引言
有监督学****supervised learning):
分类器设计方法是在样本集中的类别标签已知的条件下进行的,这些样本称为训练样本。在样本标签已知的情况下,可以统计出各类训练样本不同的描述量,如其概率分布,或在特征空间分布的区域等,利用这些参数进行分类器设计。
用已知类别的样本训练分类器,以求对训练集的数据达到某种最优,并能推广到对新数据的分类。
6
无监督学****unsupervised learning) :
样本数据类别未知,需要根据样本间的相似性对样本集进行分类(聚类,clustering),试图使类内差距最小化,类间差距最大化。
利用聚类结果,可以提取数据集中隐藏的信息,对未来数据进行预测和分类。应用于数据挖掘、模式识别、图像处理、经济学……
引言
7
广泛的应用领域
商务:帮助市场分析人员从客户信息库中发现不同的客户群,用购买模式来刻画不同的客户群的特征
土地使用:在地球观测数据库中识别土地使用情况相似的地区
保险业:汽车保险单持有者的分组,标识那些有较高平均赔偿成本的客户。
城市规划:根据房子的类型,价值和地理分布对房子分组
生物学:推导植物和动物的分类,对基因进行分类
地震研究: 根据地质断层的特点把已观察到的地震中心分成不同的类。
8
有监督学****与无监督学****的区别
有监督学****方法必须要有训练集与测试样本。在训练集中找规律,而对测试样本使用这种规律;而非监督学****没有训练集这一说,只有一组数据,在该组数据集内寻找规律。
有监督学****方法的目的就是识别事物,识别的结果表现在给待识别数据加上了标号。因此训练样本集必须由带标号的样本组成。而非监督学****方法只有要分析的数据集本身,预先没有什么标号。如果发现数据集呈现某种聚集性,则可按自然的聚集性分类,但不以与某种预先的分类标号对上号为目的。
9
无监督学****方法在寻找数据集中的规律性,这种规律性并不一定要达到划分数据集的目的,也就是说不一定要“分类”。这一点是比有监督学****方法的用途要广泛。譬如分析一堆数据的主分量,或分析数据集有什么特点都可以归于无监督学****方法的范畴。
用无监督学****方法分析数据集的主分量与用K-L变换计算数据集的主分量又有区别。应该说后者从方法上讲不是一种学****方法。因此用K-L变换找主分量不属于无监督学****方法,即方法上不是。而通过学****逐渐找到规律性这体现了学****方法这一点。在人工神经元网络中寻找主分量的方法属于无监督学****方法。
有监督学****与无监督学****的区别
10
无监督学****方法的分类
基于概率密度函数估计的方法:指设法找到各类别在特征空间的分布参数再进行分类。
基于样本间相似性度量的方法:直接按样本间的相似性,或彼此间在特征空间中的距离长短进行分类。其原理是设法定出不同类别的核心,然后依据样本与这些核心之间的相似性度量,将样本聚集成不同类别。如何聚类则取决于聚类的准则函数,以使某种聚类准则达到极值为最佳。
两种聚类方法:
迭代的动态聚类方法和非迭代的分级聚类方法