文档介绍：感知器算法基于模式识别的判别函数分类器的设计与实现摘要:本文主要介绍了模式识别中判别函数的相关概念和感知器算法的原理及特点,并例举实例介绍感知器算法求解权向量和判别函数的具体方法,最后按照线性函数判决函数的感知算法思想结合数字识别,来进行设计,通过训练数字样本(每个数字样本都大于120),结合个人写字****惯,记录测试结果,最后通过matlab编码来实现感知器的数字识别。关键字:模式识别判别函数感知器matlab1引言模式识别就是通过计算机用数学技术方法来研究模式的自动处理和识别。对于人类的识别能力我们是非常熟悉的。因为我们在早些年就已经会开发识别声音、脸、动物、水果或简单不动的东西的技术了。在开发出说话技术之前,一个象球的东西,甚至看上去只是象个球,就已经可以被识别出来了。所以除了记忆,抽象和推广能力是推进模式识别技术的关键技术。最近几年我们已可以处理更复杂的模式,这种模式可能不是直接基于通过感知器观察出来的随着计算机技术的发展,人类对模式识别技术提出了更高的要求。本文第二节介绍判别函数分类器,具体介绍了判别函数的概念、特点以及如何确定判别函数的正负;第三节介绍了感知器的概念、特点并用感知器算法求出将模式分为两类的权向量解和判别函数,最后用matlab实现感知判别器的设计。。若分属于ω1,ω2的两类模式可用一方程d(X)=0来划分,那么称d(X)为判别函数,或称判决函数、决策函数。如,一个二维的两类判别问题,模式分布如图示,这些分属于ω1,ω2两类的模式可用一直线方程d(X)=0来划分。其中式中:为坐标变量。图2-1两类二维模式的分布将某一未知模式X代入:若,则类;若,则类;若,则或拒绝维数=3时:判别边界为一平面。维数>3时:判别边界为一超平面。,是在训练判别函数的权值时确定的。如图2-2。图2-2判别函数正负的确定图中d(X)=0表示的是一种分类的标准,它可以是1、2、3维的,也可以是更高维的。)判决函数d(X)的几何性质。它可以是线性的或非线性的函数,维数在特征提取时已经确定。已知三维线性分类——判决函数的性质就确定了判决函数的形式:非线性判决函数,其示意图如图2-3所示:图:2-3非线性判决函数图示2)判决函数d(X)的系数,由所给模式样本确定的。3感知器算法设计与实现对一种分类学****机模型的称呼,属于有关机器学****的仿生学领域中的问题,由于无法实现非线性分类而下马。但“赏罚概念(reward-punishmentconcept)”得到广泛应用,感知器算法就是一种赏罚过程。,设其中,,应具有性质(3-1)对样本进行规范化处理,即ω2类样本全部乘以(-1),则有:感知器算法通过对已知类别的训练样本集的学****寻找一个满足上式的权向量。感知器算法步骤:(1)选择N个分属于ω1和ω2类的模式样本构成训练样本集{X1,…,XN}构成增广向量形式,并进行规范化处理。任取权向量初始值W(1),开始迭代。迭代次数k=1。(2)用全部训练样本进行一轮迭代,计算WT(k)Xi的值,并修正权向量。分两种情况,更新权向量的值:分类器对第i个模式做了错误分类,权向量校正为:c:正的校正增量。若分类正确,权向量不变:,统一写为:(3-3)(3)分析分类结果:只要有一个错误分类,回到(2),直至对所有样本正确分类。感知器算法是一种赏罚过程:分类正确时,对权向量“赏”——这里用“不罚”,即权向量不变;分类错误时,对权向量“罚”——对其修改,向正确的方向转换。--收敛性收敛性:经过算法的有限次迭代运算后,求出了一个使所有样本都能正确分类的W,则称算法是收敛的。感知器算法是在模式类别线性可分条件下才是收敛的。,应有:若,则对于M类模式应存在M个判决函数:,,,,,算法主要内容:设有M中模式类别:设其权向量初值为:训练样本为增广向量形式,但不需要规范化处理。第K次迭代时,一个属于ωi类的模式样本X被送入分类器,计算所有判别函数(3-4)分二种情况修改权向量:若,则权向量不变;若第L个权向量使,则相应的权向量作调整,即:(3-5)其中c为正的校正增量,只要模式类在情况3判别函数时是可分的,则经过有限次迭代后算法收敛。,下面举出实例加以说明:已知两类训练样本用感知器算法求出将模式分为两类的权向量解和判别函数。解:所有样本写成增广向量形式;进行规范化处理,属于ω2的样本乘以(-1)。任取W(1)=0,取c=1,迭代过程为:第一轮:有两个WT(k)Xi