文档介绍：聚类分析
聚类分析的基本原理
2 层次聚类
3 K-均值聚类
2008年8月
在现实生活中,分类问题是十分常见的
根据经济发展水平把各个国家分成发达国家、中等发达国家、发展中国家
按照消费者的特征对消费者分类,按照产品特征对产品分类
这些分类中,有的事先并不知道存在什么类别,完全按照反映对象特征的数据把对象进行分类,这在统计上称为聚类分析;有的则是在事先有了某种分类标准之后,判定一个新的研究对象应该归属到哪一类别,这在统计上则称为判别分析(discriminant analysis)
本章主要介绍聚类分析方法
聚类分析 (cluster analysis)
1 聚类分析的基本原理
什么是聚类分析?
相似性的度量
聚类分析
什么是聚类分析?
1 聚类分析的思想和原理
2008年8月
把“对象”分成不同的类别
这些类不是事先给定的,而是直接根据数据的特征确定的
把相似的东西放在一起,从而使得类别内部的“差异”尽可能小,而类别之间的“差异”尽可能大
聚类分析就是按照对象之间的“相似”程度把对象进行分类
什么是聚类分析? (cluster analysis)
2008年8月
聚类分析的“对象”可以是所观察的多个样本,也可以是针对每个样本测得的多个变量
按照变量对所观察的样本进行分类称为Q型聚类
按照多项经济指标(变量)对不同的地区(样本)进行分类
按照样本对多个变量进行分类,则称为R型聚类
按照不同地区的样本数据对多个经济变量进行分类
两种聚类没有什么本质区别,实际中人们更感兴趣的通常是根据变量对样本进行分类(Q型聚类)
什么是聚类分析? (两种分类方式)
2008年8月
按对象的“相似”程度分类
根据样本的观测数据测度变量之间的相似性程度可以使用夹角余弦、Pearson相关系数等工具,也称为相似系数
变量间的相似系数越大,说明它们越相近
根据变量来测度样本之间的相似程度则使用“距离”
把离得比较近的归为一类,而离得比较远的放在不同的类
什么是聚类分析? (按什么分类)
相似性的度量
1 聚类分析的思想和原理
2008年8月
聚类分析中是用“距离”或“相似系数”来度量对象之间的相似性
如果按照人均GDP对它们进行分类,就可以把在直线上离得比较近的那些点归为一类。如果再考虑财政收入,那么人均GDP和财政收入就是二维平面上的一个点,31个地区就是平面中的31个点
多个变量就是高维空间中的一个点,31个地区就是高维空间中的31个点
各个点之间距离的远近就是分类的依据
相似性的度量
2008年8月
在对样本进行分类时,度量样本之间的相似性使用点间距离
点间距离的计算方法主要有
欧氏距离(Euclidean distance)
平方欧氏距离(Squared Euclidean distance)
Block距离(Block distance)
Chebychev距离(Chebychev distance)
马氏距离(Minkovski distance)
最常用的是平方欧氏距离
相似性的度量 (样本点间距离的计算方法)