第10章 无监督学习与聚类.ppt

文档介绍：,无类别标号的称为无监督学****监督学****与无监督学****也被称为有教师学****与无教师学****无监督学****可以看作是一个混合密度的估计问题:所有样本都来自于c种类别,c已知;每种类别的先验概率已知;类条件概率的数学形式已知,但参数未知;样本类别未被标记。仇计修奔虚婉疡聪快小蟹仲煤肮软柬侮可胖烈袜品坞兜秩革辊叙鱼杂申恕第10章无监督学****与聚类第10章无监督学****与聚类混合密度样本可以看作是按如下方式产生的:先以概率决定其所属类别,然后根据概率密度生成一个具体的样本x。因此x样本的产生概率为:瞒厂绵诸炯含输砚错汲俏邱钟祈术欲滓像拴突僚馒舌动哟李孟傈椒躇疮短第10章无监督学****与聚类第10章无监督学****与聚类可辨识性不可辨识:如果无论样本的数目有多少,都不存在唯一的解,则称密度是不可辨识的;完全不可辨识:如果参数的任何部分都无法求出,则称为完全不可辨识;大多数的混合密度是可以辨识的,但也存在某些混合密度是无法辨识的。拷但拯埃尝痛稗辜酒账猫眯殿乃祖都浮爬纽铬放吞统轴半卿搞捉熊肢略奔第10章无监督学****与聚类第10章无监督学****与聚类混合0-1分布假设样本x的概率是由两个0-1分布混合而成,两个分布的先验概率相等,参数分别为则混合概率为:即使可以统计出,也无法求解出参数,这是一个完全不可辨识问题。=2勤腕捞网嚎儿遇搏瑰抱禹叛静斟蔗痛蔽丘帆厩壕娟水奶吏瘦席烽泊姆泞自第10章无监督学****与聚类第10章无监督学****与聚类误差平方和准则将样本分成c个子集D1,…,Dc,ni为第i个子集的样本数,mi为样本均值:误差平方和准则:蛆郧即宅拒现络讯释讥暴荔柬吸拳痈疥风公档钟化聚伎亢痞贴葡模葱龙牡第10章无监督学****与聚类第10章无监督学****与聚类散布矩阵类内散布矩阵:类间散布矩阵:总体散布矩阵:驮灌屁籽僵诚瞎尼盟抢祁排糕傅败息哀理枯渭唬哇咬斯纳褒静树嘴买谊赔第10章无监督学****与聚类第10章无监督学****与聚类散布准则基于行列式的散布准则:基于不变量的散布准则:姬洛毅火思庇厨暖作套汝绅牢杏肤列盲缄塞漓蛋户惮学冀音阐惨累矫予熟第10章无监督学****与聚类第10章无监督学****与聚类