1 / 10
文档名称:

K-MEANS算法(K均值算法).doc

格式:doc   大小:511KB   页数:10页
下载后只包含 1 个 DOC 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

K-MEANS算法(K均值算法).doc

上传人:文库旗舰店 2020/5/13 文件大小:511 KB

下载得到文件列表

K-MEANS算法(K均值算法).doc

文档介绍

文档介绍:k--means算法,也被称为k-平均或k-均值,是一种得到最广泛使用的聚类算法。它是将各个聚类子集内的所有数据样本的均值作为该聚类的代表点,算法的主要思想是通过迭代过程把数据集划分为不同的类别,使得评价聚类性能的准则函数达到最优,从而使生成的每个聚类内紧凑,类间独立。这一算法不适合处理离散型属性,但是对于连续型具有较好的聚类效果。:(1)选定某种距离作为数据样本间的相似性度量k-means聚类算法不适合处理离散型属性,对连续型属性比较适合。因此在计算数据样本之间的距离时,可以根据实际需要选择欧式距离、曼哈顿距离或者明考斯距离中的一种来作为算法的相似性度量,其中最常用的是欧式距离。下面我给大家具体介绍一下欧式距离。假设给定的数据集,X中的样本用d个描述属性A1,A2…Ad来表示,并且d个描述属性都是连续型属性。数据样本xi=(xi1,xi2,…xid),xj=(xj1,xj2,…xjd)其中,xi1,xi2,…xid和xj1,xj2,…xjd分别是样本xi和xj对应d个描述属性A1,A2,…Ad的具体取值。样本xi和xj之间的相似度通常用它们之间的距离d(xi,xj)来表示,距离越小,样本xi和xj越相似,差异度越小;距离越大,样本xi和xj越不相似,差异度越大。欧式距离公式如下:(2)选择评价聚类性能的准则函数k-means聚类算法使用误差平方和准则函数来评价聚类性能。给定数据集X,其中只包含描述属性,不包含类别属性。假设X包含k个聚类子集X1,X2,…XK;各个聚类子集中的样本数量分别为n1,n2,…,nk;各个聚类子集的均值代表点(也称聚类中心)分别为m1,m2,…,mk。则误差平方和准则函数公式为:(3)相似度的计算根据一个簇中对象的平均值来进行。将所有对象随机分配到k个非空的簇中。计算每个簇的平均值,并用该平均值代表相应的簇。根据每个对象与各个簇中心的距离,分配给最近的簇。然后转2),重新计算每个簇的平均值。这个过程不断重复直到满足某个准则函数才停止。,c2,…,ck初始化k个种子分组:将样本分配给距离其最近的中心向量由这些样本构造不相交(non-overlapping)的聚类确定中心:用各个聚类的中心向量作为新的中心重复分组和确定中心的步骤,:簇的数目k和包含n个对象的数据库。输出:k个簇,使平方误差准则最小。算法步骤:,这样就有K个初始聚类中心。。。,,作为一个聚类分析的二维样本,要求的簇的数量k=2。(1)选择,为初始的簇中心,即,(2)对剩余的每个对象,根据其与各个簇中心的距离,将它赋给最近的簇。对:显然,故将分配给对于:因为,所以将分配给对于:因为,所以将分配给更新,得到新簇和计算平方误差准则,单个方差为总体平均方差是:(3)计算新的簇的中心。重复(2)和(3),得到O1分配给C1;O2分配给C2,O3分配给C2,O4分配给C2,O5分配给C1